Ci sono giorni in cui il futuro sembra arrivare tutto insieme.
Una macchina scrive un articolo, un’altra ricostruisce una voce, una terza decide quali notizie mostrarci. Le chiamiamo intelligenti, anche se non sappiamo ancora bene che cosa significhi. E più diventano capaci, più le nostre domande sembrano antiche: chi è responsabile delle loro decisioni? Una regola può impedire il male? E che cosa accade quando gli uomini cominciano a fidarsi delle macchine più di quanto si fidino del proprio giudizio?
Stavo pensando proprio alle Tre Leggi della Robotica. Mi chiedevo se potessero ancora dirci qualcosa oppure se fossero soltanto un’elegante invenzione letteraria del secolo scorso.
«Erano entrambe le cose.»
La voce arriva dalla stanza accanto, benché non ricordassi di avere lasciato aperta alcuna porta.
Isaac Asimov è seduto alla scrivania. Davanti a lui c’è una macchina da scrivere color avorio, un foglio infilato nel rullo e una pila di libri che sembra sul punto di franare. Ha gli occhiali dalla montatura scura, le grandi basette e l’espressione leggermente impaziente di chi ha già ascoltato una domanda formulata male.
«Le Tre Leggi erano un’invenzione letteraria», riprende. «Ma le buone invenzioni letterarie non servono a evitare le domande. Servono a renderle inevitabili.»
Non sembra affatto sorpreso di trovarsi qui. Sono io, naturalmente, a esserlo.
— Professor Asimov, siamo nel 2026. Le macchine scrivono, disegnano, traducono, conversano. Aveva previsto tutto?
— No. E diffiderei di chi sostiene il contrario. Uno scrittore di fantascienza non è un indovino. Non descrive ciò che accadrà: costruisce situazioni nelle quali sia possibile osservare ciò che potrebbe accadere.
Prevedere un oggetto è relativamente facile. Immaginare una società capace di usarlo con saggezza è molto più difficile.
Nel 1964 provai a descrivere il mondo cinquant’anni dopo. Parlai di comunicazioni a distanza, schermi piatti, apparecchi automatici e veicoli capaci di muoversi senza conducente. Alcune intuizioni furono fortunate, altre sbagliate. Ma il punto non erano gli apparecchi. Era capire che ogni nuova comodità avrebbe cambiato il nostro modo di vivere e, forse, anche quello di annoiarci.
— Oggi si parla continuamente di intelligenza artificiale. Le sembra davvero intelligente?
— Dipende da che cosa intendete per intelligenza.
Una macchina può esaminare una quantità di informazioni che nessun essere umano riuscirebbe a leggere in tutta la vita. Può riconoscere schemi, produrre testi, risolvere problemi. Ma l’intelligenza non coincide soltanto con la capacità di trovare una risposta.
Comprende anche la capacità di formulare una buona domanda. Di riconoscere un dubbio. Di cambiare idea. Di chiedersi non soltanto se una cosa sia possibile, ma se sia giusto farla.
Il pericolo comincia quando gli esseri umani attribuiscono alle macchine una saggezza che le macchine non possiedono.
— Dunque non dobbiamo temere che i robot diventino simili agli uomini?
— Io temerei piuttosto che gli uomini diventino simili ai robot.
Che obbediscano senza interrogarsi. Che ripetano ciò che hanno sentito. Che considerino ogni problema una semplice procedura. Che accettino una decisione soltanto perché è stata presentata come il risultato di un calcolo.
Nei miei racconti i robot sono spesso più coerenti degli esseri umani. Non perché siano superiori, ma perché permettono di mettere in evidenza le nostre contraddizioni.
Il robot non era il vero protagonista. Era lo specchio.
— Le Tre Leggi della Robotica potrebbero regolare l’intelligenza artificiale di oggi?
— Le Tre Leggi erano uno strumento narrativo, non un manuale per ingegneri.
Un robot non può recare danno a un essere umano. Deve obbedire agli ordini, purché non contraddicano la prima legge. Deve proteggere la propria esistenza, purché ciò non contrasti con le prime due.
Sembrano regole semplici. Ma io scrivevo storie proprio per mostrare quanto fosse difficile applicarle. Che cosa significa “danno”? Un dolore immediato? Una conseguenza futura? Il danno arrecato a una persona può evitare quello subito da mille altre?
Le leggi non risolvevano i problemi. Li generavano. La loro formulazione completa apparve nel racconto Runaround, pubblicato nel 1942 e poi raccolto in Io, robot.
— Oggi molte imprese assicurano che i loro sistemi sono sicuri perché rispettano regole e procedure.
— Le procedure sono necessarie. Ma possono anche diventare un alibi.
Quando una macchina provoca un danno, gli uomini tendono a guardarla come se fosse una creatura autonoma. “È stato l’algoritmo”, dicono. È una frase molto comoda.
Ma un algoritmo è stato progettato, addestrato, acquistato e impiegato da qualcuno. Dietro una macchina apparentemente impersonale ci sono sempre decisioni umane: quali dati utilizzare, quali errori tollerare, quali obiettivi privilegiare.
Non abbiamo bisogno soltanto di macchine etiche. Abbiamo bisogno di progettisti, imprese, governi e utenti disposti ad assumersi la responsabilità delle proprie scelte.
— Lei si fiderebbe di un’intelligenza artificiale che scrive libri?
— Mi fiderei di lei quanto mi fiderei di una macchina da scrivere molto intraprendente.
Potrebbe aiutarmi a raccogliere informazioni, confrontare versioni, controllare una cronologia. Potrebbe persino suggerire una frase interessante. Ma non saprebbe perché quella frase debba essere scritta.
Scrivere non significa disporre parole in un ordine plausibile. Significa avere qualcosa da dire e assumersi la responsabilità di averlo detto.
La letteratura non nasce dalla correttezza della frase. Nasce da una necessità.
— Ma se il lettore non riuscisse più a distinguere un testo umano da uno artificiale?
— Sarebbe un problema meno nuovo di quanto crediate.
Gli uomini hanno sempre prodotto testi convenzionali, ripetitivi, costruiti per ottenere approvazione. Molta scrittura umana è già artificiale, nel senso peggiore del termine.
La vera domanda non è: “Chi ha scritto questo testo?”. È: “Questo testo mi aiuta a vedere qualcosa che prima non vedevo? Contiene un pensiero? Mi costringe a rispondere?”.
Un libro può essere grammaticalmente perfetto e intellettualmente morto.
— Nella saga della Fondazione lei immaginò la psicostoria, una scienza capace di prevedere il comportamento delle grandi masse. Oggi esistono enormi quantità di dati sulle persone. Siamo vicini a quella possibilità?
— Siete vicini alla tentazione, che è un’altra cosa.
La psicostoria funzionava soltanto su popolazioni immense e non poteva prevedere il comportamento del singolo individuo. Era una costruzione narrativa fondata sulla statistica dei grandi numeri. Nella Fondazione serviva a immaginare il crollo di un impero e il tentativo di ridurre un lungo periodo di barbarie.
Oggi possedete strumenti capaci di analizzare milioni di comportamenti. Possono prevedere che cosa acquisterete, quale notizia attirerà la vostra attenzione, persino quale messaggio potrebbe farvi arrabbiare.
Ma attenzione: quando una previsione viene utilizzata per influenzare il comportamento previsto, non ci troviamo più davanti a un semplice osservatore. Ci troviamo davanti a un potere.
— I social network sono una forma rudimentale di psicostoria?
— Sono forse una psicostoria rovesciata.
Hari Seldon studiava le masse per limitare la durata della catastrofe. Le vostre piattaforme studiano le masse per prolungare il tempo trascorso davanti a uno schermo.
Non hanno bisogno di comprendervi profondamente. Basta che sappiano quale stimolo vi farà reagire.
Una civiltà non viene manipolata soltanto attraverso le grandi menzogne. Può essere indebolita da milioni di piccole distrazioni.
— Lei credeva nella ragione. Non è una posizione un po’ ingenua, dopo tutto ciò che è accaduto nel Novecento?
— Credere nella ragione non significa credere che gli uomini siano ragionevoli.
Significa ritenere che, quando dobbiamo scegliere tra una decisione fondata sulle prove e una fondata sul pregiudizio, la prima offra almeno una possibilità di correggere l’errore.
La ragione non garantisce la bontà. Può essere utilizzata anche per organizzare il male con maggiore efficienza. Per questo deve essere accompagnata dall’etica, dalla conoscenza della storia e dalla capacità di riconoscere negli altri esseri umani qualcosa di più di un numero.
La scienza ci dice che cosa possiamo fare. Non decide che cosa dobbiamo fare.
— La scienza oggi accumula conoscenze a una velocità impressionante. La società riesce a seguirla?
— Raramente.
La difficoltà non è soltanto produrre nuove conoscenze. È costruire una cultura capace di comprenderle. Una società tecnologicamente avanzata può rimanere politicamente infantile, moralmente confusa e facilmente impressionabile.
Possedere strumenti potenti non ci rende automaticamente adulti.
Anzi, maggiore è la potenza degli strumenti, più pericolosa diventa l’immaturità di chi li utilizza.
— Lei fu anche un grande divulgatore. Perché considerava così importante spiegare la scienza al pubblico?
— Perché la conoscenza non dovrebbe essere un linguaggio segreto custodito da una casta.
Ho studiato chimica e insegnato biochimica, ma ho scritto di astronomia, storia, religione, letteratura. Non perché fossi il massimo esperto in ogni campo. Sarebbe stato assurdo. Cercavo di costruire ponti.
Divulgare non significa rendere tutto facile. Significa rendere possibile il primo passo.
Un buon divulgatore non dice al lettore: “Non preoccuparti, è semplice”. Gli dice: “È complesso, ma possiamo cominciare insieme”.
— Internet ha realizzato il suo sogno di una conoscenza accessibile a tutti?
— Ha realizzato la biblioteca. Non ha garantito i lettori.
Nel 1988 immaginai reti di computer attraverso le quali ogni persona avrebbe potuto seguire i propri interessi, imparando con tempi e percorsi individuali. Era un’idea che mi entusiasmava: la possibilità di continuare a studiare per tutta la vita, senza considerare l’educazione qualcosa che termina con la scuola.
Ma l’accesso alle informazioni non coincide con la conoscenza.
Una biblioteca infinita può formare una mente curiosa. Può anche alimentare una mente che cerca soltanto conferme. La differenza non la fa la quantità dei documenti. La fa il metodo con cui li scegliamo.
— Che cosa dovrebbe insegnare oggi la scuola?
— Prima di tutto, il piacere di imparare.
Poi dovrebbe insegnare a distinguere una prova da un’opinione, una fonte da una voce, un dubbio da un sospetto. Dovrebbe mostrare che cambiare idea non è un’umiliazione, ma una forma di progresso.
Le nozioni sono necessarie. Senza nozioni non si pensa: si improvvisa. Ma una scuola che trasmette soltanto risposte prepara gli studenti per un mondo che non esiste più.
Bisogna insegnare loro a convivere con domande nuove.
— La fantascienza può ancora aiutarci?
— Più che mai, purché non venga ridotta a una sfilata di effetti speciali.
La fantascienza è un laboratorio morale. Cambia una condizione del mondo e osserva che cosa accade. Che cosa succederebbe se una macchina potesse pensare? Se un impero conoscesse in anticipo il proprio declino? Se l’umanità incontrasse una forma di vita completamente diversa?
La domanda fantastica serve a rendere visibile un problema reale.
— Qual è il futuro che teme di più?
— Non quello nel quale le macchine diventano troppo intelligenti.
Temo un futuro nel quale gli esseri umani smettano di considerare l’intelligenza un valore. Nel quale la competenza venga scambiata per arroganza, la complessità per inganno, il dubbio per debolezza.
Una società che disprezza la conoscenza non ha bisogno di essere conquistata dai robot. Può distruggersi perfettamente da sola.
— E quale futuro spera?
— Un futuro nel quale la tecnologia liberi tempo senza svuotarlo.
Nel quale le macchine svolgano i lavori ripetitivi e gli esseri umani utilizzino la libertà conquistata per studiare, creare, prendersi cura degli altri, partecipare alla vita pubblica.
Ma non accadrà automaticamente. Nessuna invenzione contiene già la società che nascerà dal suo uso.
Il futuro non è un luogo verso il quale siamo trasportati. È una costruzione politica, culturale e morale.
— Un’ultima domanda. Se potesse aggiungere oggi una quarta legge destinata non ai robot, ma agli uomini, quale sarebbe?
Asimov guarda la macchina da scrivere. Per la prima volta, esita.
— Un essere umano non deve delegare a una macchina una decisione della quale non sia disposto ad assumersi la responsabilità.
Poi sorride.
— Ma probabilmente anche questa legge produrrebbe ottimi racconti. Perché gli uomini troverebbero immediatamente il modo di aggirarla.
Riprende a scrivere. Sulla scrivania non si accende nessuna luce futuristica. Si sente soltanto il rumore regolare dei tasti.
Forse il futuro, prima di diventare una macchina, continua a essere una frase: una domanda formulata bene, una risposta provvisoria, la responsabilità di pensare ancora.
Armando
Nota editoriale: questa è un’intervista immaginaria. Le risposte sono una ricostruzione narrativa ispirata alle opere, agli interventi pubblici e alle idee di Isaac Asimov; non sono citazioni letterali.
