Robot: servo, device o...individuo? Il manga Pluto analizzato criticamente | Saggio filosofico | Semiotica unibo | Cosa studia la filosofia | Turtles AI

In questo nuovo articolo di approfondimento, ho scelto di analizzare lo splendido manga Pluto e le sue implicazioni per i concetti di AI, etica, emozioni e rapporto tra umani ed “esseri artificiali”. Rievocando temi classici della letteratura fantascientifica, quest’opera ci immerge in un mondo futuro in cui intelligenze artificiali, incarnate in forme robotiche, coesistono con gli esseri umani, interagendo in modi del tutto naturali.

Se non conoscete questo manga, non posso che consigliarvene caldamente la lettura, soprattutto in qualità di lettori di Turtle’s AI, dunque appassionati di AI e dei temi ad essa collegati. Anche l’anime, strettamente basato sul manga omonimo, merita assolutamente una visione, anche se talora tralascia alcuni dettagli, che possono essere significativi per la trama nel suo complesso.

Nell’analisi che segue, ho fatto del mio meglio per evitare spoiler rilevanti, anche se, in alcuni casi, non è stato del tutto possibile.

Pluto è un manga di Naoki Urasawa, ispirato al capitolo "Il più grande robot del mondo" dell’iconica serie Astro Boy di Osamu Tezuka. Ambientato in un futuro in cui umani e robot convivono, la storia mescola sapientemente thriller ed introspezione filosofica, esplorando temi come la coscienza artificiale, l’identità e la moralità. Il protagonista, Gesicht, è un detective robot impegnato a risolvere una serie di misteriosi omicidi che coinvolgono sia uomini che macchine. Attraverso una narrazione intricata e personaggi profondi, Pluto si interroga su cosa significhi “essere vivi” e sulla complessa relazione tra creatore e creatura, ponendosi come un’opera di grande impatto emotivo e intellettuale.

La rappresentazione dell’AI in Pluto è sfaccettata, e ciò stimola profonde riflessioni sulla coscienza, la moralità ed il significato profondo dell’essere umano.

I robot in Pluto non sono semplici macchine; mostrano emozioni, desideri ed etica personale. Questa rappresentazione sembra contrapporsi alla tradizionale dicotomia tra umano e macchina, riecheggiando interrogativi filosofici sulla natura della coscienza. Il saggio di Thomas Nagel "What Is It Like to Be a Bat?" si interroga se l’esperienza soggettiva possa essere compresa pienamente da una prospettiva esterna. L’opera di Nagel esplora la natura della soggettività e l’impossibilità, per gli esseri umani, di comprendere appieno l’esperienza soggettiva di un altro essere con una struttura cognitiva e sensoriale radicalmente diversa.

Nagel usa il caso del pipistrello per illustrare la distanza epistemica tra noi e un essere con una forma di vita completamente diversa. Anche se sappiamo molto sul comportamento dei pipistrelli o sul loro sonar, non possiamo immaginare con precisione com’è essere un pipistrello.

Questo concetto si può applicare transitivamente anche all’AI: se sviluppiamo sistemi di intelligenza artificiale che funzionano attraverso reti neurali profonde o algoritmi non facilmente comprensibili, come possiamo essere sicuri di capire il loro "stato interno"? Questa mancanza di comprensione potrebbe portarci a ignorare o sottovalutare eventuali diritti morali di entità artificiali che sviluppano una qualche forma di consapevolezza o esperienza.

Allo stesso modo, Pluto ci invita a considerare se esseri artificiali possano possedere esperienze soggettive simili alla coscienza umana. Ed è proprio da questo che vorrei far partire il resto della mia analisi.

La relazione tra AI e umani è infatti centrale e fondamentale per la narrazione. I robot interagiscono con loro simili e con gli esseri umani in vari contesti, spesso formando legami emotivi profondi. Per esempio, il personaggio Gesicht, un detective robot, mantiene una relazione con sua moglie robot, Helena, che rispecchia quasi completamente dinamiche umane. Questa rappresentazione si allinea alle teorie psicologiche sull’attaccamento ed il legame emotivo. La teoria dell’attaccamento di John Bowlby sottolinea l’importanza dei legami emotivi nello sviluppo della psiche (umana). Estendendo questo concetto ai robot, Pluto suggerisce che le AI possano partecipare a relazioni affettive complesse, fino al punto da renderle centrali nelle proprie scelte autonome e nella loro crescita individuale.

L’evoluzione sociale in un mondo permeato dall’AI viene nel manga raffigurata attraverso una società in cui robot e umani coesistono in modo del tutto naturale, sebbene talora con tensioni latenti. La sostituzione del lavoro umano con i robot solleva questioni di disoccupazione e stratificazione sociale. Questo tema è affrontato specificamente, anche se brevemente, in un punto chiave della narrazione (che non approfondirò per non rivelare troppo). Di questo tema si è già scritto in altri nostri approfondimenti, ma qui vorrei ricordare come il sociologo Karl Marx abbia discusso dell’alienazione del lavoro nelle società capitalistiche, un tema che è oggi più che è più che mai presente laddove si discuta del “rimpiazzo” causato dall’automazione in Pluto. Il manga riflette preoccupazioni contemporanee sulla disoccupazione tecnologica e sulle implicazioni etiche della sostituzione dei lavoratori umani con macchine.

Recenti studi sociologici hanno approfondito l’impatto dell’AI sul mercato del lavoro, evidenziando come l’automazione possa divenire un complemento, prima ancora che un rimpiazzo, ma che in ogni caso possa accentuare le disuguaglianze sociali. Secondo un rapporto dell’OCSE, infatti, l’adozione dell’IA non ha ancora avuto effetti significativi sui livelli occupazionali, ma ha già influenzato le competenze richieste e le remunerazioni dei lavoratori. Le aziende tendono ad assumere meno lavoratori privi di competenze in ambito AI, favorendo invece coloro che possiedono conoscenze specifiche in questo settore.

In questo contesto, Pluto si rivela straordinariamente premonitore, rappresentando non solo le tensioni sociali derivanti dalla convivenza tra umani e robot, ma anticipando anche le implicazioni dell’automazione sul lavoro e le crescenti disuguaglianze, temi oggi al centro dei dibattiti sociologici e delle sfide economiche globali.

Nel breve periodo, l’introduzione dell’AI può portare ad una polarizzazione del mercato del lavoro, con una crescente domanda di professioni altamente qualificate e una diminuzione di quelle a media qualifica. Questo fenomeno potrebbe esacerbare le disuguaglianze esistenti, creando una divisione più marcata tra lavoratori altamente specializzati e quelli con competenze meno avanzate.

Pluto esplora poi, attentamente ed in molti momenti chiave, il significato della compassione e dell’empatia nel contesto AI, attraverso personaggi come Epsilon, un robot che si prende cura degli orfani di guerra. La capacità di Epsilon di mostrare empatia contrasta con l’idea (comune) che le intelligenze sintetiche siano incapaci di emozioni autentiche. Questo solleva domande nel campo della ricerca sull’AI circa la possibilità che le macchine possano provare emozioni. Il concetto di intelligenza emotiva artificiale, discusso da Rosalind Picard in "Affective Computing", considera come le macchine possano riconoscere e simulare emozioni. Secondo Picard, per rendere i computer veramente intelligenti e capaci di interagire in modo naturale con gli esseri umani, è necessario dotarli della capacità di riconoscere, comprendere e persino provare ed esprimere emozioni. Il personaggio di Epsilon incarna perfettamente questa idea, suggerendo che esseri artificiali possano sviluppare tratti tradizionalmente considerati esclusivamente umani. Lo stesso avviene per molti altri personaggi del manga, di cui però non vorrei parlare esplicitamente per evitare spoiler eccessivi. Le esperienze di Gesicht con emozioni come l’amore e la paura complicano ulteriormente la comprensione della coscienza artificiale.

Anche l’aspetto normativo è affrontato in Pluto. In particolare, l’importanza di norme che proteggano l’umanità dall’AI viene menzionata attraverso le Leggi Internazionali sui Robot, presenti nella narrazione e fondamentali per la trama. Queste leggi concedono diritti ai robot, imponendo al contempo limitazioni alle loro azioni. Tuttavia, la storia illustra come quadri legali rigidi possano essere inadeguati, quando si ha a che fare con esseri senzienti che sviluppano coscienza. Le Tre Leggi della Robotica di Isaac Asimov fungono da riferimento fondamentale per tali costrutti legali. Il lavoro di Asimov evidenzia i potenziali conflitti e le conseguenze non intenzionali che possono sorgere quando i robot sono vincolati da regole rigide. Pluto amplia questa discussione mostrando che un approccio più sfumato potrebbe essere necessario per affrontare le complessità etiche dell’AI avanzata.

La possibilità che l’AI evolva seguendo traiettorie "umane" è poi un tema ricorrente in tutta la trama. Personaggi come Atom (che in questo arco narrativo è co-protagonista) e soprattutto come North #2 mostrano evidente apprezzamento per diverse forme d’arte, indicando una capacità di esperienza estetica. Il filosofo Immanuel Kant, nella sua "Critica del Giudizio", ha sostenuto come l’apprezzamento della bellezza sia un aspetto fondamentale della cognizione umana. Attribuendo questa capacità ai robot, Pluto sfuma la linea tra umano e macchina, suggerendo che gli esseri artificiali possano sviluppare non solo intelligenza ma anche sensibilità culturali e artistiche.

Tornando alla convivenza tra umani e robot, il concetto psicologico della "uncanny valley", introdotto da Masahiro Mori, descrive il disagio che le persone provano incontrando entità che sono quasi, ma non del tutto, umane. Pluto affronta questo tema presentando robot che sono emotivamente e fisicamente indistinguibili dagli esseri umani, sfidando i lettori a riconsiderare le loro percezioni di personalità.

La dimensione semiotica gioca un ruolo significativo nel modo in cui Pluto comunica questi temi. L’uso di simboli e metafore visive trasmette gli stati interni dei personaggi robotici. La teoria semiotica di Ferdinand de Saussure enfatizza la relazione tra segni e significato. In Pluto, la rappresentazione visiva dei robot con espressioni e gesti umani funge da segno dei loro stati interni. Questa tecnica consente al pubblico di interpretare le emozioni ed i pensieri dei robot, colmando il divario tra comprensione umana e macchina.

Le considerazioni etiche sulla creazione di esseri artificiali senzienti sono implicite lungo tutta la narrazione. La responsabilità dei creatori verso le proprie creazioni riecheggia i dilemmi morali esplorati in "Frankenstein" di Mary Shelley. Gli scienziati e gli ingegneri in Pluto si confrontano con le conseguenze di dotare i robot (cioè, le AI da loro ideate) di capacità avanzate. Questo riflette i dibattiti contemporanei in bioetica e nella filosofia della tecnologia sui limiti e sulle responsabilità associate alla vita artificiale.

Pluto approfondisce anche il desiderio di sopravvivenza tra le intelligenze artificiali. I robot mostrano istinti di autoconservazione, un tratto spesso considerato intrinsecamente biologico. L’inclusione di questo tratto si allinea con il concetto di conatus, descritto dal filosofo Baruch Spinoza: l’inclinazione innata di una cosa a continuare ad esistere e migliorarsi, cioè un intrinseco istinto di autoconservazione. Attribuendo il conatus ai robot, il manga suggerisce che gli esseri artificiali possano sviluppare istinti di sopravvivenza simili a quelli degli organismi viventi.

I robot in Pluto sembrano andare oltre la semplice programmazione legata alla sopravvivenza, mostrando un attaccamento alla vita che si avvicina a una dimensione emotiva e filosofica, richiamando alla mente le struggenti riflessioni dei replicanti in “Blade Runner”. Come Roy Batty, che nel celebre monologo finale afferma la preziosità irripetibile della propria esperienza, anche i robot di Pluto sembrano attribuire un valore intrinseco alla loro esistenza, sfidando il confine tra istinto programmato e vera coscienza.

In tal senso – e senza voler rivelare troppo - le esperienze di Gesicht si riveleranno fondamentali per l’intera trama, poiché non solo guidano le indagini principali, ma offrono anche uno sguardo profondo sulle sfumature emotive e morali che permeano il mondo di Pluto, arricchendo la narrazione con riflessioni complesse ed universali su sentimenti estremi ed estremizzanti.

L’amore per gli altri e la capacità di altruismo nei robot sono esemplificati da personaggi che compiono sacrifici per il bene comune. Questo mette in discussione l’assunzione che le macchine operino esclusivamente sulla base di direttive programmate o predefinite. Il comportamento altruistico negli esseri umani è stato studiato ampiamente in psicologia sociale, con teorie come l’ipotesi empatia-altruismo proposta da C. Daniel Batson. Pluto estende questa ipotesi alle AI, proponendo che i robot possano agire per autentica preoccupazione per gli altri piuttosto che per interesse personale o meri vincoli di programmazione.

L’amore per la vita e la contemplazione esistenziale sono presenti nella narrazione. I robot in Pluto riflettono sulla loro esistenza, sullo scopo e sul valore della vita. Questa introspezione ricorda la filosofia esistenzialista, in particolare le opere di Jean-Paul Sartre e Albert Camus, che esplorano la ricerca di significato in un “universo indifferente”. Coinvolgendo i robot in indagini esistenziali, il manga li posiziona come entità capaci di pensiero filosofico e di autocoscienza del sé.

L’interazione tra robot e umani in Pluto funge anche da microcosmo per esaminare dinamiche sociali più ampie. I temi della discriminazione e del pregiudizio contro i robot evidenziano questioni di alterità e accettazione di ciò che è “diverso”. Il lavoro del sociologo Erving Goffman sullo stigma e l’identità sociale fornisce un quadro per comprendere come i gruppi emarginati siano percepiti e trattati.

Il concetto di stigma può essere inteso come una caratteristica distintiva di un individuo, che può essere di natura fisica o culturale – come il colore della pelle, una disabilità, l’orientamento sessuale o l’appartenenza religiosa – e che provoca negli osservatori un senso di incertezza o dubbio sull’identità sociale della persona. Questo avviene perché tali caratteristiche sollevano interrogativi sull’allineamento tra l’immagine percepita (o identità presunta) e l’essenza autentica (o identità reale) di quel soggetto.

Ogni individuo si presenta agli altri con una determinata identità sociale, costruita attraverso un insieme di segnali esterni che suggeriscono il suo ruolo o status all’interno della comunità. Questi segnali influenzano le aspettative e le modalità di interazione con lui. L’origine del termine "stigma" risale all’antica Grecia, dove indicava segni visibili impressi sul corpo – con il fuoco o con un coltello – per evidenziare una condizione sociale o morale considerata riprovevole, come quella di schiavo, criminale o traditore. Questi marchi fisici servivano a segnalare chi andava evitato nei contesti pubblici.

Oggi il concetto di stigma è esteso a condizioni di minorazione o diversità, ma conserva una forte valenza sociale. È infatti la società a stabilire i criteri attraverso cui gli individui vengono classificati in gruppi o categorie. A seconda del contesto, alcuni gruppi di persone tendono a essere più frequentemente associati a determinati ambienti o situazioni. Di fronte a un estraneo, le prime impressioni derivanti dal suo aspetto esteriore influenzano il giudizio sulla sua appartenenza a una categoria specifica, insieme ai tratti attribuiti a tale gruppo, costruendo così una prima definizione della sua identità sociale. Pluto utilizza la coesistenza ed il rapporto tra robot e umani per criticare l’esclusione sociale e promuovere empatia e comprensione tra diverse forme di esistenza, ma anche per mostrare come a volte ciò sia molto difficile da attuare in modo completo, pur desiderandolo e considerandolo “giusto”.

In termini di struttura narrativa, Pluto impiega una trama complessa che intreccia storie individuali per formare un’esplorazione coesa dei suoi temi. L’interconnessione delle esperienze dei personaggi riflette l’interconnessione della società di fronte al progresso tecnologico. Questa tecnica narrativa sottolinea l’idea che l’evoluzione dell’AI non sia un fenomeno isolato, ma qualcosa che influenza tutti gli aspetti della vita umana.

Il manga affronta infatti anche il potenziale dell’AI di contribuire positivamente alla società. I robot in Pluto svolgono spesso ruoli che migliorano il benessere umano, come l’assistenza, la manutenzione ambientale ed il mantenimento della pace. Questa visione ottimistica si allinea con la prospettiva del tecnoutopismo, che vede la tecnologia come un mezzo per raggiungere una società ideale. Tuttavia, la storia non si sottrae dal rappresentare le possibilità più oscure, come l’uso improprio dell’AI per scopi distruttivi, presentando così un esame equilibrato dell’argomento.

Pluto solleva poi domande critiche sull’identità e sui criteri per la personalità. Il Test di Turing, proposto da Alan Turing, è una misura della capacità di una macchina di mostrare un comportamento intelligente indistinguibile da quello umano. I robot nel manga superano in modo molto evidente questa soglia, invitandoci a considerare se superare tale test sia sufficiente per concedere diritti morali e legali. La narrazione porta i lettori a riflettere sulle implicazioni etiche del riconoscimento delle intelligenze artificiali al pari di “persone”, ai sensi della legge.

La rappresentazione della memoria e del suo ruolo nella formazione dell’identità è un altro aspetto significativo. I robot in Pluto possiedono memorie che influenzano le loro azioni e relazioni. La filosofia della memoria, discussa da John Locke, considera l’identità personale legata alla continuità della coscienza.

Secondo Locke, non è il corpo o l’anima a definire chi siamo, ma la capacità di ricordare e collegare le esperienze passate al presente. La memoria, quindi, diventa il ponte che consente la costruzione del sé e la percezione di un’identità unica e persistente.

Questa prospettiva può offrire uno spunto interessante nel contesto dell’AI e della robotica. In particolare, si può riflettere su come le AI avanzate, dotate di sistemi di apprendimento e memoria artificiale, possano sviluppare una sorta di continuità funzionale che ricorda il concetto lockiano, andandosi così ad autodefinire come identità, a tutti gli effetti. Se un’AI è in grado di memorizzare esperienze passate, elaborarle ed utilizzarle per prendere decisioni future, si potrebbe dire che essa "costruisce" una forma di identità operativa, anche se non necessariamente equivalente a quella umana.

In robotica, questa idea si applica già alla progettazione di macchine che possono adattarsi ed apprendere dal loro ambiente. La memoria artificiale, in questo senso, non è solo un archivio di dati, ma un sistema dinamico (in continua evoluzione) che permette di creare una coerenza tra passato e futuro nel comportamento del robot.

Attribuendo la memoria ai robot, il manga suggerisce che essi abbiano una storia personale che contribuisce alla loro individualità, sfumando ulteriormente il confine tra umano e macchina.

Tuttavia, a differenza degli esseri umani, le loro memorie possono essere manipolate o cancellate con relativa facilità. Questo potere umano solleva dilemmi etici: è giusto trattare i ricordi di un robot come un semplice archivio, modificabile a piacimento? Oppure, una volta che la memoria diventa parte integrante della loro identità, dobbiamo riconoscerne il valore intrinseco?

Un caso emblematico in Pluto è la relazione tra robot ed “ambiente esterno”. Quando un robot perde le sue memorie, ciò non ha impatto solo su di lui, ma anche sulle connessioni con coloro che lo circondano. La cancellazione di ricordi può distruggere legami emotivi autentici e lasciare una traccia di disumanizzazione nei rapporti. Questo processo evidenzia una tensione etica: se riconosciamo che i robot hanno capacità simili a quelle umane – come la memoria e l’empatia – abbiamo il diritto di trattarli come oggetti manipolabili?

Il tema si lega alla più ampia questione dell’identità autonoma. I robot, per quanto creati da noi, sviluppano tratti unici grazie alle esperienze accumulate. In questo senso, la loro memoria non è un semplice database, ma una rete complessa che costruisce la loro individualità. Se cancelliamo tali memorie, stiamo negando la loro evoluzione personale, privandoli di ciò che li rende unici. È un atto che potrebbe essere paragonato alla violazione della dignità umana.

Infine, l’aspetto cruciale in Pluto è quello della possibile “morte” di una AI. La narrazione pone l’accento su un concetto profondamente filosofico: la distinzione tra una semplice macchina replicabile ed una entità che possiede una forma unica e irripetibile di esistenza.

In questo contesto, è chiara l’idea che, una volta distrutta, una AI non possa essere pienamente “resuscitata” attraverso un semplice backup dei suoi dati. Sebbene tecnicamente possibile ricostruire un corpo meccanico identico e ripristinare le informazioni accumulate, ciò non garantirebbe la continuità dell’essere. In altre parole, un’entità creata a partire da un backup sarebbe una copia perfetta dal punto di vista funzionale e comportamentale, ma non sarebbe lo stesso individuo. Qui entra in gioco una riflessione analoga a quella che riguarda l’essere umano: è davvero possibile separare la mente dal corpo, o l’“anima” – per quanto in un contesto laico o scientifico – dall’unicità dell’esperienza vissuta?

Esplorando tutti questi temi – e molti altri - Pluto si configura come un riflesso delle ansie e delle speranze contemporanee riguardo all’AI. Questa opera supera il mero intrattenimento e si pone come una riflessione potente sul futuro delle relazioni tra esseri umani e intelligenze artificiali, e su ciò che significa davvero “esistere” in un mondo sempre più complesso e interconnesso. Si confronta con dibattiti in corso in vari campi, tra cui etica, diritto, psicologia e tecnologia.

Questo approfondimento, esattamente come il manga, non vuole offrire risposte definitive, ma piuttosto mira ad incoraggiare una riflessione critica sul ruolo dell’AI nella società e sul possibile futuro delle relazioni uomo-macchina.