La singolarità della IA negli occhi di un giullare

[The Singularity of AI in the Eyes of a Jester]

Paul "nEo" Martin


"If poets are the unacknowledged legislators of the world, science-fiction writers are its court jesters."

Bruce Sterling, Prefazione a Burning Chrome di William Gibson


Introduzione

Se la gente sapesse cosa stanno combinando gli scienziati non è che dormirebbe sonni tanto tranquilli. Se lo sapesse leggerebbe con più attenzione ciò che hanno da dire gli autori cyberpunk.

Lo scopo di questo lavoro è, non solo quello di confrontare l'immagine dell'Intelligenza Artificiale (da qui in poi riferita come IA) inclusa in due opere maggiori del genere cyberpunk, ma anche quello di mostrare la connessione tra quelle immagini e la realtà in cui tutti viviamo o il suo immediato futuro.

Dunque, qual è il futuro della IA descritto nelle opere di cyberpunk? E se è vero, come suggerisce Sterling, che gli scrittori di fantascienza consegnano un messaggio di allerta alla società contemporanea in una forma che è mascherata sotto la satira, queste immagini sono realmente in sintonia con la nostra realtà? E in caso affermativo, dovremmo preoccuparci?

La materia in oggetto è l'Intelligenza Artificiale. Gli ambienti che ospitano le IA descritte da qui in avanti sono gli ambienti della letteratura cyberpunk. Per comprendere i giudizi e le conclusioni di questo lavoro è necessario conoscere il significato di tutte e due queste nozioni.

 

Definendo nozioni di base: introduzione al cyberpunk

Il cyberpunk è presente sulla scena letteraria da una ventina di anni, essendo il sottogenere più in voga e mainstream della fantascienza e, benché sia stato annunciato come defunto da molti critici, non è stato sostituito fino ad ora da nessun altro movimento della fantascienza. Ma come possiamo definire cosa è cyberpunk e distinguerlo da ciò che è semplicemente alla cyberpunk? Appignanesi indica che l'aspetto principale del mondo cyberpunk è una "intrusione totale della tecnologia nella vita umana" (129) e questa può essere usata come una definizione sufficiente: il cyberpunk parla di gente realmente comune, spesso dei punk, che è persa in una società di alta tecnologia. Una aggiunta utile a tutto ciò è fornita dall'autore che viene considerato come uno dei fondatori del genere, William Gibson. In una delle sue interviste ha affermato che "si interessa del presente. Non è per niente qualcosa che tende ad un futuro immaginato. E' un modo di cercare di arrivare a patti con la soggezione e il terrore ispirati [...] dal mondo in cui viviamo" (Opera collettiva anonima). Questa opinione è in accordo con la citazione in apertura di Sterling. Entrambe le opinioni rispondono inoltre alla domanda sul perché siano stati scelti degli esempi specifici da questo particolare genere per la comparazione mostrata in questo lavoro. C'è, senza dubbio, una ragione nel fare ciò: la rassomiglianza che le opere cyberpunk hanno con la realtà.

Ovviamente ci sono altri aspetti specifici del genere che caratterizzano il cuberpunk: come la presenza di internet (che spesso è combinata in una entità unica con la realtà virtuale e prende nomi differenti: Cyberspazio, Matrice, Multiverso, in parte perché è stata inventata nella letteratura cyberpunk prima che venisse inventata nella realtà e chiamata internet) o l'influenza di organizzazioni di diverso tipo e onnipotenti che hanno forma di multinazionali o di ordini criminali di stampo mafioso. Anche questi elementi appaiono nelle opere descritte più avanti, ma sono solo altri elementi di un quadro già definito.

 

Definendo nozioni di base: introduzione alla Intelligenza Artificiale

Consideriamo ora il termine Intelligenza Artificiale. Cos'è dunque l'IA? E viviamo già adesso nell'era della IA? Le due domande possono essere risposte assieme.

Sì, viviamo nell'era della IA se intendiamo con Intelligenza Artificiale la capacità di soluzione da parte di una macchina (cioè dell'hardware) o da parte di un programma che gira su questa macchina (cioè del software) di problemi specifici che siano definiti specificatamente (il che significa che il solutore, sia esso un programma o una macchina, è provvisto di algoritmi per risolverli o che ha tale algoritmi costruiti dentro di se). Una macchina (hardware o software, non ha importanza) che possieda tale capacità verrebbe chiamata anche IA. Abbiamo già macchine che traducono documenti in tempo reale o giocano a scacchi e vincono contro i grandi maestri.

E no, possiamo solo sperare (o temere) di vivere questa era se attribuiamo a una macchina di questo tipo di possedere l'indipendenza di intelligenza, questa intelligenza proprio speciale, propria dell'umano: la capacità di pensare.

Per chiarire questo quadro, occorre definire un altro concetto: il pensare. L'autore di questo lavoro si propone di usare qui una delle definizioni più semplici del pensare, quella fornita da Buller che adotta il test di Turing (chiamato, proprio al suo inizio, il gioco imitativo), in cui un giudice ha una conversazione (per mezzo di uno schermo di computer o di qualche altro espediente simile, con lo scopo di non vedere i propri interlocutori) con un umano e con una macchina (9-11). Egli cerca di scoprire quali dei due esseri "dall'altra parte" dello schermo del computer sia l'IA per mezzo di alcune domande (Buller, 9-11). Il compito della IA è di fingersi un essere umano: se una macchina non è distinguibile da un essere umano, allora pensa (Buller, 9-11).

E' ovvio che una definizione di questo tipo sia soddisfacente solo se interpretiamo il pensare in termini di risposta a delle domande, o più generalmente, in termini di soluzione dei problemi. Una IA che possieda questa capacità differirà da quella controllata dagli algoritmi grazie alla sua abilità a risolvere (o almeno a cercare di risolvere) qualsiasi tipo di problema, invece di limitarsi a risolvere i problemi per cui è programmata. Ma che dire della coscienza? Senza dubbio, allorché parliamo di IA, pensiamo di solito ad un essere cosciente, simile all'essere umano. Ma la coscienza può essere trattata come una funzione secondaria di un cervello artificiale. Questo problema sarà discusso in dettaglio nella seconda parte di questo lavoro, quella che va sotto il titolo La psicologia della IA.

Non c'è da meravigliarsi se il cyberpunk, che, come detto in precedenza, presenta l'immagine caricaturizzata della società contemporanea, sia tanto interessato alla IA. In quanto ci sono tante premesse al fatto che gli scienziati si trovano sul punto di essere capaci a costruire l'IA. La possibilità di questo atto di creazione è discussa ulteriormente più avanti in La nascita delle IA: sono inevitabili.

Molte opere cyberpunk dipingono la IA in varie forme. Tanto per dare qualche esempio, si consideri la trilogia dello Sprawl di William Gibson (Neuromante, Giù nel cyberspazio e Monna Lisa cyberpunk), dove le gesta di una IA onnipotente, di nome Wintermute, rappresentano il motore dietro ad ognuna delle azioni che accadono al personaggio principale. Oppure film come Terminator di James Cameron o The Matrix dei fratelli Wachowski, che descrivono il mondo in cui le IA hanno preso il potere (prospettive sulle IA sono discusse in modo più diretto in Il futuro di una IA neonata: Hanno qualcosa in comune). E questi sono solo gli esempi più rappresentativi.

Comunque, per gli scopi di questo lavoro, ho scelto di discutere e confrontare l'IA descritta in Idoru di William Gibson a quella raffigurata nel graphic novel (o manga) Ghost in the Shell di Masamune Shirow e nella sua versione filmata (anime) di Mamoru Oshii. Perché queste due? Perché sembrano essere le IA più vicine alla nostra realtà, non solo per via degli aspetti specifici del cyberpunk stesso, discussi in precedenza, ma anche perché in tutte i due le opere letterarie le IA sono descritte come le primissime al mondo e, come tali, simili alle ipotetiche IA che possibilmente potrebbero venir create nel mondo in cui viviamo (si veda la parte successiva).

In Idoru la IA è il personaggio del titolo, Rei Toei. Idoru originalmente significa idolo in giapponese e ciò è esattamente ciò che il personaggio è: una cantante pop estremamente popolare. Comunque non è una cantante umana, ma un idolo virtuale, in quanto è ciò che oggi significa idoru: la simulazione di una persona che non esiste realmente e che non è mai esistita in un mondo reale. Si tratta di una "personalità-costrutto, un insieme di agenti software, la creazione di progettisti informatici" (Gibson 98, ch. 13), in altre parole un programma per computer in forma di ragazza. Tali programmi sono popolari in Giappone già oggi (ovviamente in forme molto più primitive) e la gente li tratta come vere star televisive. La differenza è che questo idoru, benché non abbia forma materiale e possa apparire solo come ologramma, è reale: si è evoluta per diventare una IA con una coscienza simile a quella umana. Per questo si tratta della prima vera IA in un mondo in cui le IA erano solite essere solo una teoria, proprio come nel nostro mondo, così possiamo assumere che Idoru ritragga il nostro ipotetico futuro.

La IA descritta in Ghost in the Shell è molto simile. Qui evolve da un programma spia, il cui nome in codice è Project 2501, per arrivare alla forma di un terrorista indipendente, intelligente e pericolosi, soprannominato Puppet Master.

 

La nascita delle IA: sono inevitabili

Lo sono veramente? Nella discussione iniziata da Vernor Vinge, la maggior parte degli scrittori di fantascienza che vi hanno partecipato ha ammesso che lui aveva ragione nel predire che l'umanità avrebbe creato le IA nel giro di una trentina di anni e che molto probabilmente sarebbero succedute a noi (Cyran 74-76).

La singolarità. Ecco come viene chiamata. La singolarità, secondo gli scrittori sopra citati è quel punto nel tempo (possiamo anche chiamarlo un orizzonte di predizione) oltre il quale gli umani inventeranno la vera nanotecnologia e la vera IA, quel punto nel tempo oltre il quale tutto ciò che accade è imprevedibile e incomprensibile per noi, in quanto tutte le regole che governano il mondo attuale diventeranno assolutamente insignificanti (Cyran 74-76).

La maggior parte di tutto ciò suona come pura fantasia, ma la scienza è una cosa buffa: si distende ben oltre la comprensione umana. Ciò che faceva ridere ieri spesso diventa uno standard di oggi e le idee di oggi sono spesso incomprensibili perfino ai loro stessi inventori: la scienza crea se stessa, si potrebbe quasi dire. E così scienziati ponderati che lavorano alla creazione di macchine pensanti concordano con gli autori di fantascienza nel dire che il completamento del loro progetto è solo una questione di tempo in quanto già sanno come fare e mancano loro solo i mezzi appropriati. Andrzej Buller afferma che i partecipanti al progetto internazionale CAM-Brain inteso a creare la IA, hanno già inventato l'architettura di un cervello artificiale futuro, l'unico problema è che non hanno l'hardware capace di sopportare il software di strutture neurali sufficienti e di evolvere per soddisfare i bisogni del software evolutivo (50-62, 69-79).

Per ciò che è stato già detto sulle origini delle IA descritte fin qui, si potrebbe concludere con facilità e realtà che entrambe non erano state create come tali dagli uomini, ma che si erano evolute da progetti umani con scopi diversi: l'idoru era una semplice simulazione di una cantante e il Project 2501 era un programma spia.

Questo atto di pseudo-auto-creazione fa perfino rifiutare a Puppet Master dalla versione anime di Ghost in the Shell il suo essere chiamato una IA e si definisce "una forma di vita che è nata nel mare dell'informazione". Infatti IA è il termine proprio per descriverlo. Era artificiale, stando a Buller la vera IA non sarà costruita da zero nella sua forma finale (17-49). Al contrario gli scienziati umani studieranno strutture hardware e software di base e le lasceranno evolvere per arrivare alla IA perfettamente adattata a vivere in un dato ambiente (Buller 17-49). E' già stato provato che i programmi mostrano una tendenza ad evolvere molto simile a quella degli organismi viventi rispettando la teoria di Darwin (Buller 17-22). Si potrebbe dedurre che confrontando il software alle creature viventi sia esagerato, ma tutte le cose viventi sono anch'esse codificate, proprio come lo sono tutti i programmi per computer. Cos'altro è il DNA se non un codice sofisticato che contiene informazioni sulla struttura degli organismi, cervello incluso? Ovviamente la questione della coscienza, forse anche dell'anima, rimane e ciò è discusso più approfonditamente nella parte successiva.

Si può osservare che entrambe le opere cyberpunk prese in esame promuovono la stessa idea che assorbe le menti dei ricercatori contemporanei: l'IA non può essere creata ma può evolvere proprio come accade nel mondo naturale con gli organismi geneticamente codificati. Gibson afferma che "la vera IA molto probabilmente evolverà in modi che hanno meno a che fare con la pretesa di essere umani" (247-248, ch. 37) e arriva a suggerire "che la IA (potrebbe) essere creata accidentalmente e che la gente inizialmente (potrebbe) non riconoscerla per quello che (è)" (248, ch.37). Allo stesso modo, l'evoluzione del Project 2501 è il risultato della sua interazione con fonti diverse di dati e (cosa non affermata direttamente nè nel romanzo nè nel film, ma che è una conclusione logica di ciò che viene affermato) dal suo risiedere in differenti pezzi di hardware, probabilmente alcuni molto sofisticati in quanto era progettato come programma militare e la tecnologia militare di solito è la più avanzata (e la cosa è ancora più accentuata nel mondo descritto da Masamune Shirow). Per questo la sua progettazione come applicazione con lo scopo di penetrare ambienti hardware differenti ed estrarne dati si è evidenziata nel suo rivoltarsi contro i progettisti, in quanto questi ambienti gli hanno fatto sviluppare una intelligenza indipendente e il libero arbitrio.

 

La Psicologia della IA: Lo Spirito nella Macchina

La IA sarà simile agli esseri umani in termini di psicologia? Nick Bostrom, uno degli scrittori che partecipavano alla discussione citata in precedenza, dichiara che un fattore cruciale nel modellare la psiche della IA sta nei suoi creatori e che gli standard morali della IA rifletteranno le norme obbedite dai suoi progettisti (Cyran, 74-75).

Questo approccio, comunque, non è riflesso in nessuno dei due lavori cyberpunk qui discussi. Rei Toei potrebbe anche prendere la sua sensibilità verso i problemi umani dai programmatori (cosa mostrata soprattutto dal suo atteggiamento verso Chia), ma sorpassa i suoi creatori in termini di saggezza ed introspezione e, per questo, sembra giudicare gli eventi attorno a se con la fredda sicurezza di un essere superiore che riconosce le emozioni umane ma, in quanto essere immortale, è al di là di esse. Il Project 2501 si comporta in modo simile, combinando in se gli aspetti di un figlio ribelle e quelli di un essere sensibile quanto un umano, ma più importante di chiunque della nostra specie, per cui gli umani sono solo delle pedine per i propri piani, usate a secondo dei suoi desideri... Abbiamo una psiche da bambini? E chi è nel giusto, Bostrom o i creatori di queste visioni cyberpunk della IA?.

Ci sono alcune premesse che senza dubbio Bostrom si trovi in errore. Witold Marciszewski osserva che le macchine sono libere dai problemi (siano essi pratici che teoretici) e dai dubbi con cui gli organismi biologici debbono competere e che, quindi, non siano spinti da essi e che non possano pensare come esseri umani(78-81).

In verità ci sono visioni più radicali di questa. Stando ad esse, è possibile che la coscienza sia solo un prodotto dell'evoluzione e che creature dall'intelligenza più avanzata (come le IA) se ne possano liberare, in quanto non sarebbe d'aiuto nella soluzione dei problemi e, per questo, nell'essere intelligenti (Marciszewski 18-19).

Buller è più ottimista, ma nega anche lui la necessità per la IA d'essere solo un riflesso delle norme morali dei suoi creatori. E' d'accordo con Alan Touring nel dire che gli ingegneri possono costruire solo una mente artificiale di tali parametri che farà da casa allo spirito (Buller 14-15). Secondo la sua opinione spetta a Dio creare o fornire un'anima ad una mente fornita dagli umani e perciò gli ingegneri non possono sostituirsi a Dio nella creazione delle anime e non sono per le IA niente di più dei genitori per i loro figli (Buller 14-15). Si può concludere che, proprio come le opinioni dei figli non sempre riflettono le visioni dei loro genitori, la psiche di una qualsiasi IA potrebbe non essere la controparte esatta delle psiche dei suoi creatori.

Comunque l'idea di creare dei ricettacoli per l'anima potrebbe, naturalmente, apparire blasfema. Ma se la gente assume la presenza dell'anima in creature codificate dai geni, potrebbe essere anche possibile assumere la presenza dell'anima in creature codificate in modo differente, anche se simile. L'idea delle persone come fornitori soltanto del ricettacolo per qualcosa (sia esso una psiche o un'anima) creato indipendentemente (sia essa una creazione spontanea o un atto di Dio) in qualche modo si adatta bene col fatto che i network neurali che sono considerati la base per la costruzione della IA sono un mistero perfino ai loro costruttori. Gli scienziati possono progettare network neurali ed influenzare la loro evoluzione promovendo lo studio di certi modelli di comportamento, ma non riescono a comprendere appieno come funzionino i network neurali (Buller 38).

Tenendo a mente questi fatti, non si può evitare di osservare che il titolo Ghost in the Shell è molto significativo. Suggerisce l'esistenza di energia incorporata che, assieme a un corpo (sia esso un corpo organico o un guscio meccanico), forma un'entità pensante. La presenza di questa energia è richiesta e senza di essa anche una persona organica non può essere considerata cosciente. La stessa forza sarebbe stata anche responsabile di emozioni che spontaneamente si sono evolute in Rei (come il suo amore per Rez).

Ciò che differisce tra l'una e l'altra delle due IA è lo stimolo che ha spinto alla loro formazione. E' simile alla situazione di due bambini che crescono in circostanze differenti. Nel caso del Project 2501, l'ambiente è il sopraccitato 'mare dell'informazione'. Basando la propria evoluzione sui dati puri (e spesso militari), libero da un fondo emotivo insignificante, sviluppa e perfeziona una personalità maschile di fredda logica, spesso anche cinica e impietosa, in quanto fa uso ed anche abuso di persone per eseguire i propri ordini, senza curarsi del danno che provoca loro. Diversamente da lui, Rei era stata progettata originalmente come personalità femminile. Per di più era designata ad essere il risultato finale di un processo di creazione di 'macchine del desiderio, aggregati di desideri soggettivi, una architettura di brame articolate" (Gibson 237, ch. 35). La combinazione di questi fattori ha prodotto una IA che è diretta maggiormente al sentire che al conoscere.

 

Il futuro di una IA neonata: Hanno qualcosa in comune

Come i livelli di confronto precedenti hanno già mostrato, sia Puppet Master che Rei Toei hanno diversi aspetti in comune. Succede la stessa cosa coi loro scopi. Entrambe le entità artificiali sanno esattamente ciò che vogliono fare e sistemano il loro modo di vita in modo tale da renderli possibili. Entrambe le IA sono espansive e desiderano evolvere ulteriormente e diffondersi. Desiderano riprodursi. Per far ciò scelgono dei compagni che sono creature viventi, esseri umani ma molto differenti dal resto degli umani e che gli permettono di comprendere gli scopi delle IA. Nel caso del Puppet Master è il maggiore Motoko Kusanagi, che è un membro delle forze speciali, una persona con vedute anti-totalitariste (forse anche un po' anarchiche). Per questo si tratta di un difensore perfetto per Puppet Master, che è inseguito da agenti governativi corrotti. Ma ciò che è più importante, lei è cyborgizzata quasi al cento per cento (si suppone che solo la sua mente sia umana, e anche su questo fatto lei non ne ha una certezza assoluta) e per questo alienata ed insicura nei confronti della propria personalità. Queste qualità le permettono di comprendere Puppet Master, che è un'entità artificiale, l'unica della sua specie e, proprio per questo, alienata in una maniera simile alla sua. Rei sceglie Rez, un leader carismatico di un complesso rock famoso, la cui fama ed eccentricità lo ha isolato dalla società, rendendolo simile a lei, e la sua ricchezza e la sua influenza lo rendono una persona perfetta ad aiutarla a raggiungere i suoi scopi.

Il concetto di Partner in entrambi i casi significa qualcosa di differente. Puppet Master diventa una parte della mente di Motoko, riproducendo fisicamente e creando una nuova entità da questa unione, una entità capace di riprodursi fisicamente allo scopo di dare inizio a una nuova razza. Rei sposa Rez virtualmente ma, come si può supporre, probabilmente intende fare sesso fisicamente con lui, in quanto l'unità nanotech che i collaboratori di Rez rubano alla mafia russa, descritta come 'il mezzo del (loro) matrimonio' (Gibson 257; ch. 38), può aiutarli a rendere Rei una persona reale costruendo un corpo per la sua mente. Questa tendenza delle IA a riprodursi è, di nuovo, molto fedele coi paralleli alla IA reale che esiste già. Anche se la IA reale non esiste ancora, l'evoluzione delle applicazioni sperimentali che stanno alla base della ricerca sulla IA, è trainata da strategie di sopravvivenza evoluzionistiche che sono basate sulla riproduzione degli elementi più forti. Ancora una volta gli autori cyberpunk fanno solo finta di scrivere cose sul futuro.

 

Conclusione

Il quadro che emerge dall'analisi precedente non è poi così pessimistico come si potrebbe aspettare E' vero che le opere cyberpunk analizzate, nelle loro somiglianze significative e nella sorprendente rassomiglianza con le conquiste reali della scienza e della tecnologia contemporanee, ci forniscono dei moniti su ciò che ci possiamo aspettare dal nostro mondo in un futuro non tanto distante. Ma queste storie non sono racconti di orrori futuri, ma piuttosto di mutamenti futuri. Il messaggio è chiaro: qualcosa cambierà. Ma se c'è del vero in questi racconti, la direzione del cambiamento dipenderà dalle decisioni che le entità pensanti (siano esse umane che IA) prenderanno. E non è che poi cambi niente nella nostra visione del mondo dato che essa è sempre dipesa da tali decisioni, l'unica differenza sta nel fatto che fino ad ora erano state prese solo dagli umani...

 

Bibliografia

  1. William Gibson. Idoru. London: Penguin Books. 1997.
  2. Ghost in the Shell. Regia Mamoru Oshii. Masamune Shirow/Kodansha/Bandai Visual/Manga Entertainment. 1995.
  3. Appignanesi, Richard. Postmodernism for Beginners. Cambridge: Icon Books Ltd. 1995.
  4. Buller, Andrzej. Sztuczny mózg. To ju nie fantazje (Artificial Brain. Not a Fantasy Any More). Traduzione in inglese dell'autore dell'articolo
  5. Marciszewski Witold. Sztuczna inteligencja (Artificial Intelligence). Traduzione in inglese dell'autore dell'articolo
  6. Cyran Janusz, ed. "Requiem dla ludzko ci?" ("Requiem for Humanity?"). TTraduzione in inglese dell'autore dell'articolo
  7. The Cyberpunk Project

 

 

© Paul Martin, traduzione italiana Danilo Santoni


IntercoM | JapdraW