Sogni di Metallo
ARTIFICIO E INTELLIGENZA

Alan Roberts

sogni di metalloI mezzi di comunicazione con regolarità richiamano la nostra attenzione alla grossa minaccia dei passi metallici: i robot, ci dicono, ci vengono addosso. Saranno robot intelligenti, i cervelli fatti da microprocessori che svolgono miliardi di calcoli ogni secondo, con accesso immediato a migliaia di miliardi di brani di dati nella memoria. Gli sviluppi futuri dell'Intelligenza Artificiale [IA] potrà significare che come specie abbiamo creato i nostri successori...
Il computer, sia esso mobile che fisso, sorpasserà dunque tutte le capacità umane nel futuro a breve o a medio termine? Gli artigiani, per esempio, sono condannati allo stesso destino dei tessitori di telaio a mano indiani del secolo scorso: le loro ossa dovranno sbiancare nelle pianure? La risposta è NO. Ma prima di spiegare il perchè dovremmo cercare di tirare le somme dell'attuale stato d'opera nel campo delle IA. Le attuali conquiste sulla IA sono piccole ma promettenti: le prestazioni attuali e prossime in campi strettamente delimitati, in particolare con sistemi esperti, sono ancora più promettenti. Ma l'IA non promette di certo di eclissare alla fine l'intelligenza umana. Per cercare un supporto maggiore di quanto qui si possa dare a quest'ultima asserzione, l'introduzione migliore viene forse da due libri (What Computer Can't Do e Mind Over Machine) dei fratelli Dreyfus. Questo duo dinamico comprende due professori di Berkeley, uno (Hubert) un filoso e l'altro (Stuart) si interessa di Ingegneria Industriale e Ricerca Operativa. Da una decade o due vanno facendo scoppiare molti palloni sull'IA liberando, in modo appropriato, grosse quantità di gas surriscaldato.
Le figure dominanti nella ricerca sull'IA hanno di certo guardato al proprio lavoro  come a qualcosa capace di spalancare una quantità apparentemente illimitata di attività umane nei confronti della macchina, rendendo il lavoro, apparentemente, un semplice gioco da ragazzi. Herbert Simon, vincitore del premio Nobel, ha dichiarato che '...nell'arco di dieci anni la maggior parte delle teorie nella psicologia prenderanno la forma di programmi di computer.' Così equipaggiato con le leggi del comportamento umano, dicendo quale stimolo produrrà la risposta desiderata, un robot comandato da un computer di certo potrà eseguire in fretta uno scintillante arazzo o due. O un milione... Di nuovo Simon: 'Le macchine saranno capaci, entro una ventina di anni, di fare qualsiasi lavoro possa fare l'uomo.' Un altro leader, Marvin Minsky del MIT, ha predetto che '...entro una generazione, il problema di creare l'intelligenza artificiale, sarà sostanzialmente risolto.'
E' difficile non rimanere impressionati dalla chiarezza di queste affermazioni e dal loro coraggio nel porre dei limiti temporali precisi: fra 10 anni, nell'arco di 20 anni, fra una generazione. Counque, prima di diachiarare noi e la nostre specie obsoleti, dovremmo fare caso a quando sono state fatte queste tre predizioni: rispettivamente nel 1957, nel 1965 e nel 1967. Non ne è stata realizzata una. Nessuna è arrivata neppure vicino alla realizzazione. Quando nei media si parla di questo argomento, si tende ancora a ripetere tali pretese mentre si osserva un educato silenzio riguardo ai fiasci precedenti.Spesso le storie aderiscono anche allo stesso formato ormai vecchio di decenni: no, queste cose non si possono fare ora, ma ci sono risultati eccitanti che mostrano come si sia fatto il primo passo e come risultati realmente importanti siano proprio dietro l'angolo...
Ma l'aver fatto il primo passo non conta poi molto rispetto al raggiungimento della meta se il sentiero su cui ci si trova è, di fatto, un vicolo cieco, e il quadro dell'intelligenza umana che sottolinea queste affermazioni riguardo alla 'IA hard' appaiano abbastanza false da avallare tale direzione sbagliata. Per una argomentazione dettagliata contro questo 'errore del primo passo', si legga il materiale sopra citato dei Dreyfus. Una critica che si basa fortemente sulla fisica recente (ed è molto piè gentile) è stata offerta da Roger Penrose (in The Emperor's Mind), che considera anche posizioni meno estreme ('IA soft'), che sono molto più difendibili.
Le affermazioni stravaganti sopracitate sono state screditate in maniera netta e decisa col passare del tempo.Ma è molto meglio notare l'immagine più sobria che emerge se ci volgiamo ad una letteratura sull'IA più recente, come quella che si ritrova in The Foundations of Artificial Intelligence: A Sourcebook (1990). E' pur vero che mostra ancora gli effetti della sbronza dall'era dell'Ottimismo Illimitato:

Ma trip fantastici mascherati da 'scienza' come questi, fronteggiano ora una competizione più realistica. Altri articoli in questa antologia mostrano che molti di coloro che lavorano sulle IA stanno facendo seri sforzi per definire la natura e le limitazioni del loro campo, lottando nel processo corpo a corpo con domande fondamentali e molto difficili.

UN 'CERVELLO' SENZA UN CORPO?

Ma cos'era sbagliato nel quadro dell'intelligenza che ha guidato i viaggi passati (e, sfortunatamente, presenti) nel paese delle fate? E' salutare guardare ad una linea di argomenti contrari sviluppata particolarmente da Hubert Dreyfus.
Se le capacità umane saranno eguagliate da un computer, si baseranno sul seguire delle regole; i computer non possono far altro. Naturalmente, a volte facciamo ricorso a delle  regole; uno che imparasse a guidare borbotterebbe: prima a folle, poi la chiavetta d'avviamento, togliere quindi il freno a mano... Ma una volta superata la fase di noviziato, di solito non c'è nessun segno che si segua una regola cosciente. Per salvare il progetto del 'computer umanoide', si dovrebbe assumere che tutti i nostri comportamenti capacitivi nascono dal seguire una regola, nobn ha importanza che si sia o meno coscienti della regola. Ma questo concetto delle 'regole inconsce' ha poco  a suo supporto a molto contro. Come nota Dreyfus:

Un computer ha bisogno di regole perchè gli oggetti con cui ha a che fare devono essere definiti chiaramente e quello che deve essere fatto in seguito deve essere scritto nel suo programma senza ambiguità. I dati che il programma può ottenere sono un gruppo ben delimitato scelto per la sua rilevanza rispetto agli scopi del programma stesso: è il programmatore, naturalmente, che decide in merito e che sceglie i dati che saranno rilevati per esse. Così il computer opera in un mondo piccolo, auto-contenuto e relativamente privo di perplessità. Per contrasto, noi poveri umani dobbiamo muoverci pesantemente e rumorosamente per un mondo che è capace di infinite sorprese e dobbiamo fare del nostro meglio. nei suoi confronti. Dobbiamo accontentarci di oggetti che possiamo capire solo vagamente, cambiare a tentativi i nostri criteri di rilevanza in risposta a nuove esperienze, imporre a tentativi degli schemi (schemi che di solito sfuggono a qualsiasi analisi) nello sforzo di comprendere una situazione.
Coscienti di questi aspetti preziosi nella psiche umana, i ricercatori nell'IA hanno mostrato naturalmente  un grosso interesse nello sviluppare programmi che possano imparare. Qui, i primi lavori si sono basati soprattutto sulle teorie comportamentali, in cui l'apprendimento umano è visto soprattutto come come oggetto di semplice condizionamento stimolo-risposta, frequenza di rafforzamento ed eccitazione, tutto facilmente programmabile. Ma una quantità di opere sperimentali ha posto ultimamente un grosso punto interrogativo su queste teorie e ha mostrato come alcuni dei risultati di condizionamento più elementari dipendano soprattutto dal contesto sperimentale e possano differire a seconda delle scelte del soggetto. Senza dubbio, e in modo ancora più rimarcabile, c'è ora la prova che che non-humani e perfino animali non-mammiferi possano formare schemi ed usarli per modellare in modo variato la propria percezione dello 'stimolo di input', in un modo comunque simile. Guardando ai risultati sperimentali siamo portati a chiedere non tanto se un computer possa 'imparare' come un essere umano, ma piuttosto se possa mai imparare in un modo efficace quanto quello di un piccione.
Possiamo perfino chiederci: un computer avrà mai il senso pratico di un piccione? Perchè è uscito fuori (come la discussione precedente ci ha indotto ad aspettarci) che il senso pratico è immensamente più difficile da programmare del pensiero logico. Lottando con questo problema, Minsky scrive: Obiettando alla proposta di Minsky di programmare questi diversi metodi di 'incatenamento', Terry Winograd osserva in Thinking Machine: IL CORPO: COSTI E BERNEFICI

Ma se le nostre capacità di solito non possono essere ridotte a delle regole, da dove provengono? Dreyfus enfatizza nel suo resoconto come abbiano origine dall'esperienza corporea e da essa dipendano continuamente. E' perchè abbiamo un corpo che abbiamo imparato (abbiamo dovuto imparare) ad estrarre un senso da esperienze che sono diverse in qualità eppure simultanee, per esempio ciò che ci dicono gli occhi e ciò che ci dicono le mani. Originalmente è per negoziare il nostro cammino attraverso il mondo fisico che formiamo degli schemi con cui organizzarlo e delle aspettative basate su questi schemi. Equipaggiati con questi schemi e queste aspettative, possiamo trascorrere la maggior parte del tempo in un mondo che ora è familiare; e comunque schemi e aspettative hanno questa straordinaria virtù di rimanere aperti alla correzione, di modo che nuovi fenomeni non ci lasciano ad annaspare. In questo modo semi-automatizziamo le nostre risposte, cosicchè il mondo sensoriale non si presenta come un'arena che dobbiamo perennemenete combattere per comprendere, e possiamo così cavarcela senza una costante emorragia di energia e attenzione. Se c'è una qualità umana che merita il nome di 'intelligenza', è difficile pensare ad un candidato migliore di quello che così iniziamo a sviluppare: l'abilità a  cavarcela.
Come la mette Dreyfus in What Computers Can't Do:

Così, nelle situazioni in cui la risposta automatica è tutto ciò che viene richiesto (dove gli oggetti sono ben definiti, il corpo di dati 'rilevanti' è circoscritto chiaramente, gli schemi non debbono adattarsi, e le aspettative non sono mai disattese) possiamo procedere per inerzia usando programmi di risposta derivati da esperienze passate.
E' in questi campi di attività, dove non si richiede pensiero creativo e complesso, che la logica formale e il computer possono comportarsi abbastanza bene. Ma tali casi sono più rari di quanto si creda generalmente. Per esempio, moltissime persone probabilmente vedono la matematica come l'archetipo dei regni dove la logica formale esercita il proprio potere; ma questo succede perchè spesso pensano ad un caso non rappresentativo, quello dell'artmetica. Nella matematica, di solito è molto differente. Come scrive Penrose (un matematico anche lui) in The Emperor's New Mind: (Naturalmente l'argomento può sempre essere ricostruito come una progressione logica.)
Quella che può apparire come una conclusione paradossale emerge da questo: una delle ragioni principali per cui un computer non duplicherà mai l'intelligenza umana è che non è provvisto di un corpo con cui incontrare il mondo. E qui arriviamo ad alcune conseguenze interessanti per la computerizzazione delle capacità, capacità di mestiere in particolare.

MESTIERE, CAPACITA' E 'REALTA' VIRTUALE'

Il mestiere si fonda, forse in modo più pesante dell'arte alta, su quegli aspetti cruciali della comprensione umana che derivano e dipendono dall'esperienza corporea: come resistono o cedono i materiali, come appaiono al tatto... la sbalorditiva e complessa integrazione tra dati sensoriali e bisogni istintivi che viene esemplificata da una frase come 'copertura di sicurezza'. Un computer potrebbe benissimo venir programmato per controllare macchine che duplichino o plagino ottusamente u'opera già esistente, proprio come ci si può aspettare da una fotocopiatrice a colori che prima o poi riesca a sfornare copie sorprendentemente simili della Monna Lisa. (Secondo quanto riferisce la stampa, stanno già fornendo imitazioni passabili di una banconota da cinquanta dollari.) Ma non ci si deve mai aspettare che qualche pezzo originale di opera creativa rotoli fuori dalla linea di produzione controllata numericamente. (Vale la pena notare che il risultato di una linea di produzione di questo tipo non occorre che sia monotonamente uniforme. Il controllo numerico può evitare facilmente la sfera perfetta o la linea rigidamente diritta, aggiungendo deviazioni casuali che siano percettibili dall'occhio o dalla mano. Se ci fosse abbastanza richiesta, coloro che desiderano bernoccoli per amore della bernoccolità troveranno qualche industria pronta a soddisfare i loro desideri).
Potrebbe essere pertinente suggerire un significato speciale per il mestiere nel mondo attuale. Questo è un mondo in cui la 'realtà virtuale' minaccia di sostituire la realtà. Gli incontri umani viso-a-viso sono sempre più costretti e minacciati mentre vengono rimpiazzati da relazioni mediate e astratte; 'razionalità tecnocratica', efficienza economica e inevitabilità del 'progresso' si assumono per giustificare cambiamenti che sono spesso dubbi, maleaccetti da gran parte delle persone e anche orrendi. Se l''arte alta' celebra questi sviluppi, o li presenta anche soltanto neutralmente, rischia di perdere il proprio aspetto critico. E se noi rigettiamo l'ideologia che insiste nel dire che tale mondo maligno è 'inevitabile', dovremmo cogliere, ed essere contenti di vederla, una critica almeno tacita al lavoro manuale che rivitalizza esperienze più antiche ora in pericolo di andare perse: la sensazione del tocco di una coperta, il peso di una pietra... non nella 'realtà virtuale', ma nella nostra mano.
Naturalmente un tale genere di critica potrebbe essere sia rteazionara che tesa a guardare in avanti. Potrebbe convogliare un desiderio infantile di reacreare il passato così com'era, di far emergere le virtù ormai perdute nello stesso ambiente sociale come succedeva un tempo, di far rinchiudere le persone all'interno dell'estesa famiglia (patriarcale) o della comunità del villaggio (dalla mente ristretta e tendente ad escludere). Oppure, invece, potrebbe esprimere un desiderio di recuperare ciò che è andato perduto o è in pericolo di perdersi, ma per situarlo in uno schema di relazioni più espansivamente conviviali. Che queste possano essere immaginate solo in modo vago non può essere visto come scusa per abbandonare le speranza.
Potremmo trarre una lezione salutare da tutto ciò. Anche se il 'progresso tecnologico'è stato trasformato in ideologia, di certo non è un semplice mito e dobbiamo stare attenti a quelle premesse e minacce che sono reali; ma dobbiamo mantenere una vigilanza ferrea nei confronti dei raggiri 'scientifi'. Ricordate come, nel campo dell'energia nucleare, la visione dell''elettricità troppo economica da distribuire' veniva sventolata di fronte a noi per tacitare i dubbiosi. Ricordate come le autostrade avrebbero risolto il problema del traffico stradale in espansione. E c'era una volta quella benevolente genia scientifica che era sul punto di agitare la sua bacchetta magica per ridurre la settimana lavorativa a venti ore, a dieci ore...
Le dichiarazioni precedenti dei ricercatori dell'IA probabilmente sono esempi estremi di tali trucchi e senza dubbio sono innocenti. Dopo aver considerato il ruolo sociale dell'IA in generale, Terry Winograd (uno dei leader più illuminati nella materia) offre una preoccupante conclusione:

La pretesa marcia dei robot dona a questo incubo burocratico il proprio sugello intimidante. Se ci stiamo tutti avvicinando al nostro use-by date anyway; grazie al rimpiazzamento da parte di esseri più acuti e più duraturi fatti d'acciaio, fibre di carbonio e plastica, allora, ovviamente, non c'è motivo di combattere per preservare il semplicemente umano... In realtà, se ci sentiamo spodestati, possiamo dire che coloro che smerciano questi sogni ad occhi aperti e questi incubi smentiscobno i propri argomenti proprio nell'atto di proferirli. Di certo dimostrano che nessuna macchina surclasserà mai l'homo sapiens nell'abilità specificamente umana della masturbazione.


Alan Roberts, originariamente un fisico, attualmente ricercatore in ecologia teoretica alla Monash University. La presente versione dell'articolo, pubblicato dalla Arena Magazine, è basata sul testo di una conferenza tenuta nel Luglio 1992, una versione precedente era apparsa in Artlink, Winter 1992.



 


Mondo - Ultimi arrivi - Autori - Argomenti - Testi in linea - Speciali
Premi della SF - IntercoM rivista - Collegamenti - Ansible