Scelti dalla redazione

Per buona parte della storia umana il problema è stato vivere abbastanza. Arrivare all’età adulta, superare una malattia, mettere al mondo dei figli e vederli crescere. La vecchiaia era una possibilità concessa a qualcuno, non una stagione della vita nella quale prima o poi sarebbe entrata una parte consistente della popolazione. Poi è successo qualcosa di straordinario. Medicina, igiene, alimentazione, condizioni di vita migliori hanno allungato enormemente la nostra esistenza. Nel 1950 l’aspettativa media di vita nel mondo era inferiore ai cinquant’anni. Oggi supera i settanta e nei paesi più ricchi è molto più alta. Naturalmente queste medie vanno maneggiate con attenzione. In passato pesava enormemente la mortalità infantile e non è vero che a cinquant’anni fossero tutti vecchi e prossimi alla morte. Però il cambiamento rimane impressionante. Abbiamo conquistato anni. Il fatto curioso è che non sembra altrettanto chiaro che cosa farne. Continuiamo infatti a raccontare la vita più o meno con la stessa vecchia mappa. C’è il tempo in cui si cresce e si studia. Quello in cui si lavora, si costruisce una famiglia, si fanno progetti. Poi arriva la pensione e comincia una zona più indistinta. La chiamiamo vecchiaia. Solo che quella zona, oggi, può durare venti o trent’anni.

Ho letto Karl Popper da giovane, quando studiavo Scienze politiche. Erano anni in cui le grandi ideologie esercitavano ancora un fascino potente. Promettevano di spiegare la storia, qualche volta perfino di conoscerne in anticipo la direzione. Popper insegnava a diffidare proprio di questo: delle teorie che pretendono di avere sempre ragione e di chi, sentendosi dalla parte giusta della storia, finisce per considerare un ostacolo chiunque gli si opponga. Molte pagine lette allora si sono inevitabilmente allontanate. È rimasta, però, una domanda. Non chi dovrebbe governare, ma come possiamo impedire che governanti incapaci o pericolosi facciano troppo danno. Sembra una distinzione da filosofi. In realtà cambia il modo di guardare alla democrazia. Per secoli abbiamo cercato di stabilire chi fosse più adatto a comandare: i sapienti, i virtuosi, i migliori, il popolo, una classe sociale, un uomo investito da Dio o dalla storia. Anche oggi, quando scegliamo un leader, continuiamo spesso a cercare qualità eccezionali. Competenza, coraggio, capacità di decidere. Qualcuno al quale affidarsi. Popper parte invece da un’ipotesi meno entusiasmante ma più realistica: chiunque arrivi al potere può sbagliare. Può rivelarsi inadeguato, può cedere alla tentazione di abusare del proprio ruolo. Perfino una persona capace e animata dalle migliori intenzioni può prendere decisioni sbagliate. Non esiste un sistema sicuro per riconoscerla prima e, soprattutto, non esiste un’investitura che la renda infallibile dopo.

C’è un modo abbastanza semplice per non prendere troppo sul serio le profezie sulla fine dell’umanità per colpa dell’intelligenza artificiale: immaginare Terminator. Una macchina diventa cosciente, ci guarda e decide che saremmo più utili da morti. Poi comincia lo sterminio. A quel punto possiamo quasi rassicurarci. È fantascienza. Il problema è che Andrew Critch e Jacob Tsimerman hanno provato a raccontare una storia diversa. Una storia in cui le macchine non ci odiano, non si vendicano e non hanno neppure bisogno di diventare “cattive”. Nel luglio del 2025 hanno pubblicato un breve saggio dal titolo poco rassicurante: A Taxonomy of Omnicidal Futures Involving Artificial Intelligence. Una tassonomia dei possibili futuri omnicidi legati all’intelligenza artificiale. Tsimerman non è un profeta della Silicon Valley. È un matematico dell’Università di Toronto e, un anno dopo la pubblicazione del saggio, avrebbe ricevuto la Medaglia Fields, il riconoscimento più prestigioso della matematica. Critch studia invece a Berkeley i problemi di compatibilità tra intelligenza artificiale e interessi umani. Questo, naturalmente, non trasforma le loro ipotesi in previsioni. Un grande matematico può sbagliarsi sul futuro come chiunque altro. Però rende un po’ più difficile liquidare tutto con una battuta. La domanda da cui partono è semplice: se un’intelligenza artificiale molto avanzata può rappresentare un rischio esistenziale per l’umanità, come potrebbe accadere?