
A un certo punto, leggendo di guerre e intelligenza artificiale, mi è tornato in mente Norbert Wiener. Mi succede quando una discussione insiste molto sulle capacità di una tecnologia e lascia un po’ in disparte il suo impiego. Quanto è veloce, quanto è precisa, quante operazioni può svolgere. Poi cerco di capire chi decide che cosa farne, e lì le spiegazioni diventano meno soddisfacenti.
Wiener è un nome che fuori dalle università si incontra poco. Matematico americano, nato nel 1894 e morto nel 1964, insegnò al Massachusetts Institute of Technology. Nel 1948 pubblicò Cybernetics, il libro che diede forma alla cibernetica: lo studio del controllo e della comunicazione negli animali e nelle macchine. Una definizione che sembra destinata agli specialisti. Ma Wiener aveva anche un modo piuttosto concreto per farsi capire.
In una fotografia di Alfred Eisenstaedt del 1949 lo si vede con uno strano carrello: ruote, fili scoperti, componenti che sembrano montati in attesa di una carrozzeria mai arrivata. Era la sua “falena”, costruita da Henry Singleton su proposta di Wiener e del collega Jerome Wiesner. Due fotocellule rilevavano la luce e il meccanismo correggeva la direzione per seguirla. Cambiando la configurazione, il carrello se ne allontanava. Wiener chiamava i due comportamenti “falena” e “cimice”.
Il movimento modificava la luce ricevuta dai sensori; quella nuova informazione correggeva il movimento successivo. Era una dimostrazione della retroazione, il feedback. La macchina perseguiva uno scopo elementare, fissato da chi l’aveva costruita. Bastavano poche ruote e una lampada per cominciare a discutere di comportamento e controllo.
La guerra, però, era già entrata nelle ricerche di Wiener. Durante il secondo conflitto mondiale aveva lavorato al problema di prevedere la posizione futura di un aereo per migliorare il tiro contraereo. Bisognava calcolare dove si sarebbe trovato quando il proiettile lo avesse raggiunto. Una questione matematica difficile, nella quale entravano anche le reazioni del pilota, le sue possibilità di manovra. Per chi stava su quell’aereo, naturalmente, era un’altra cosa.
Nel 1947 un ricercatore impegnato in un progetto sui missili guidati gli chiese un suo lavoro tecnico. Wiener rifiutò di fornirglielo personalmente. La lettera fu pubblicata dall’Atlantic Monthly con il titolo A Scientist Rebels. Richiamava Hiroshima e Nagasaki e spiegava perché, dopo quanto era accaduto, uno scienziato non potesse considerare innocente qualsiasi passaggio di informazioni. Sapeva che quel documento si poteva trovare altrove. Voleva comunque sollevare il problema, coinvolgere altri ricercatori.
Ecco perché mi è venuta voglia di interrogarlo. Wiener conosceva dall’interno il lavoro di cui parlava. Aveva contribuito a svilupparlo, ne vedeva le possibilità. Nel 1950 dedicò alle conseguenze sociali della cibernetica un libro dal titolo che ancora trattiene l’attenzione: The Human Use of Human Beings, l’uso umano degli esseri umani. Mi interessa quella sua difficoltà a separare la soddisfazione per un risultato scientifico da ciò che sarebbe successo dopo.
Vorrei chiedergli anche delle migrazioni. Qui il collegamento lo faccio io: penso alle persone descritte come flussi da gestire, alle vite che devono entrare nelle caselle di una procedura. Le classificazioni servono, certo. Mi domando quanto, a forza di usarle, si finisca per vedere soltanto quelle.
Me lo immagino a un tavolo con parecchie carte e il carrello appoggiato di traverso, ingombrante. Trovo appena il posto per il taccuino. Il telefono lo tengo in mano.
Professore, in questo telefono c’è un sistema che risponde alle mie domande. Scrive, traduce, riassume. Volevo cominciare facendoglielo vedere.
Volentieri. Lei per che cosa lo usa?
Anche per preparare le interviste.
E come si trova?
Bene, spesso. Mi aiuta a mettere ordine. Qualche volta troppo: sembra che ogni domanda debba avere la sua risposta e che alla fine tutto torni.
Mi faccia vedere un esempio. Così, in generale, non saprei giudicare. Vorrei capire quanto dipende dal sistema e quanto da ciò che lei gli chiede.
Cerco sul telefono. Avevo preparato una dimostrazione più rapida.
Intanto le faccio una domanda che ricorre spesso: queste macchine potrebbero sfuggirci di mano?
Dovrebbe descrivermi le macchine. E anche il modo in cui pensate di controllarle. C’è una persona che segue il processo? Ha il tempo di capire che cosa succede? Può interromperlo? Essere seduti davanti a uno schermo può dare un’impressione di controllo piuttosto ingannevole.
Mettiamo che il sistema sia più preciso di quella persona. Penso alle armi: una maggiore precisione potrebbe risparmiare delle vite.
Sì, potrebbe. È una possibilità da prendere sul serio. Ma vorrei sapere come viene scelto il bersaglio. Se il tiro raggiunge esattamente il punto indicato, resta da verificare quali informazioni hanno portato a indicare quel punto. La precisione, da sola, non ci dice abbastanza.
Anche lei, durante la guerra, cercava il modo di colpire un aereo.
Sì. C’era una guerra contro il nazismo, e lavorai a quel problema. Non posso cancellarlo dalla mia biografia, né ne avrei il diritto. Ma una scelta fatta in quelle circostanze non mi impegnava a continuare qualunque ricerca militare mi fosse stata proposta in seguito.
Quando rifiutò di fornire il suo lavoro sui missili, sapeva che non ne avrebbe fermato la costruzione.
Lo scrissi anche nella lettera. Quel ricercatore poteva rivolgersi all’organizzazione governativa che possedeva il rapporto. Ma si era rivolto a me, e io non volevo trattare la richiesta come una normale cortesia tra colleghi. Mi sembrava necessario spiegarglielo.
Oggi le direbbero che qualcun altro avrebbe preso il suo posto.
Probabilmente. Questo argomento rende molto difficile qualsiasi rifiuto, se lo si accetta fino in fondo. Io non avevo il potere di decidere per tutti gli altri ricercatori. Potevo però far conoscere la mia posizione, perché valutassero anche la loro. Non sapevo quanto sarebbe servito.
Si toglie gli occhiali e li tiene in mano. Aspetto, poi provo a spostare il discorso.
Vorrei parlarle di persone che attraversano i confini. È un salto, lo so. Ma anche lì si cerca di prevedere, selezionare, controllare. Immagini un sistema che aiuti a valutare chi può entrare in un paese.
Che cosa dovrebbe valutare?
Se una persona costituisce un rischio. Oppure se riuscirà a trovare lavoro.
Sono compiti diversi. E “costituisce un rischio” è un’espressione che andrebbe precisata molto, prima di affidarla a chi deve costruire il sistema. Rischio di che cosa? Valutato attraverso quali elementi?
D’altra parte, gestire migliaia di casi senza strumenti è difficile. Anche un funzionario può essere superficiale, prevenuto, stanco.
Certamente. Un buon sistema potrebbe aiutarlo, permettergli di confrontare informazioni che altrimenti perderebbe. Non ho ragione di supporre che una decisione sia migliore soltanto perché viene presa senza una macchina. Mi interessa però sapere che cosa accade nei casi imprevisti. La persona che ha ricevuto una valutazione sbagliata a chi si rivolge? E chi la ascolta può fare qualcosa?
Capita di sentirsi rispondere che la procedura non permette di intervenire. Anche per questioni molto più banali.
Allora bisognerebbe esaminare come è stata organizzata. Qualcuno avrà stabilito i poteri di quell’ufficio, le informazioni che riceve, le possibilità di correggere una pratica. Non sempre il difetto si trova nel programma.
Quindi torniamo alle responsabilità umane.
Anche ai difetti tecnici, se ci sono. Non li trascurerei: un dato mancante o un errore di costruzione possono avere conseguenze serie. Ma prima mi parlava di un sistema che funziona bene. Quanto bene? E per chi? Vorrei conoscere i casi in cui fallisce, non soltanto il risultato medio.
Forse pretendiamo dalla tecnologia anche un sollievo. Decidere è faticoso, espone, qualche volta spaventa. Avere un’indicazione sembra già un aiuto.
Lo è. Anch’io mi affiderei volentieri a uno strumento capace di risparmiarmi un lavoro lungo e incerto. Poi dovrei capire quanto fidarmene. Il fatto che mi sia utile non risolve questa difficoltà.
Speravo di chiederle se le macchine diventeranno più intelligenti di noi. Mi sembra che siamo finiti altrove.
Possiamo parlarne, ma ci servirà del tempo. Lei che cosa intende per intelligenza?
Guardo le domande rimaste. Ce ne sono ancora cinque, compresa quella sul futuro dell’umanità. La lascio perdere per il momento.
Gli chiedo di tornare alla lettera del 1947. Vorrei sapere che cosa gli risposero i colleghi.
Armando
NOTA EDITORIALE
Il dialogo è immaginario. Le risposte sono una rielaborazione narrativa ispirata agli scritti di Wiener. I riferimenti alle tecnologie e alle migrazioni contemporanee sono un’estensione dell’autore, non sue dichiarazioni.
Fonti e letture
Norbert Wiener, Cybernetics: Or Control and Communication in the Animal and the Machine (1948); The Human Use of Human Beings: Cybernetics and Society (1950, edizione riveduta 1954), con la descrizione del carrello “falena-cimice” alle pp. 165–167 dell’edizione consultata; A Scientist Rebels, The Atlantic Monthly, gennaio 1947.
Fotografia di riferimento: Alfred Eisenstaedt, Norbert Wiener al Massachusetts Institute of Technology, 1949.