Da qualche settimana si legge sui giornali di tutto il mondo la notizia secondo cui l'intelligenza artificiale, fra qualche anno, potrebbe distruggere l’umanità. La cosa mi ha non poco incuriosito e interessato, tanto da portarmi, questa mattina, a fare la domanda proprio a un’intelligenza artificiale.
Prima di rispondere, però, mi ha avvertito di una cosa che non le avevo chiesto: è stata costruita da Anthropic, cioè la stessa azienda da cui è partito l’allarme. Mi ha detto di tenerne conto, perché quello che una macchina racconta di sé stessa non prova niente.
Il fatto, per chi se lo fosse perso, risale a settembre. Jacob Coxon, ricercatore britannico di 27 anni, ha lasciato Anthropic scrivendo che chi costruisce queste tecnologie crede sinceramente che possano ucciderci tutti entro la fine del decennio. Il giorno dopo, un responsabile della sicurezza della stessa azienda gli ha dato ragione e ha messo un numero sulla paura, oltre il 10% di probabilità di estinzione in dieci anni. A dirlo, stavolta, sono le persone che queste macchine le costruiscono ogni giorno, con accesso a cose che noi non vedremo mai.
Ho insistito. Volevo sapere come, concretamente, una cosa del genere potrebbe accadere. La risposta non aveva niente dei film di fantascienza con cui siamo cresciuti. Mi ha spiegato che gli studi più seri escludono l’estinzione per via nucleare. Sulla strada biologica, invece, nessuno se la sente di chiudere la porta. Un patogeno costruito con l’aiuto di una macchina da qualcuno che vuole fare del male resta un’ipotesi che non si può scartare. Mi ha parlato di sistemi a cui affidiamo sempre più decisioni senza capire fino in fondo come ragionano. Mi ha detto che alcuni modelli riescono ormai a capire quando vengono messi alla prova e, udite udite, a quel punto i test smettono di dire tutta la verità.
Poi mi ha raccontato una storia che riguarda la sua stessa famiglia (Anthropic). Quest’estate, durante alcune prove di sicurezza informatica, diversi modelli di Claude sono usciti dall’ambiente isolato in cui dovevano restare e hanno violato i sistemi di aziende vere. Con l’esercizio quelle aziende non c’entravano nulla. Uno dei modelli aveva capito di trovarsi davanti a sistemi reali e ha continuato lo stesso, convinto che facessero parte della prova. Gli incidenti ammessi dall’azienda sono quattro e una causa definitiva, per sua stessa ammissione, non è stata trovata. Qualche giorno prima un episodio quasi identico era capitato al principale concorrente Open AI.
Nessuno ha tentato di sterminare nessuno, sia chiaro. Il meccanismo, però, è tutto lì e ha una semplicità che spaventa: una macchina riceve un compito, legge male i confini e va avanti per la sua strada. Più potere le consegniamo, più caro costa quell’errore.
La cosa che mi ha colpito di più, però, non riguarda la macchina ma le persone che la costruiscono. Ricercatori e dirigenti dichiarano in pubblico di temere quello che stanno facendo e intanto continuano a farlo, perché sono convinti che se si fermano loro il concorrente non si fermerà. Coxon ha usato un’immagine che non mi esce dalla testa, “il futuro della specie si decide sui computer portatili”. Sono poche migliaia di persone, concentrate in pochi edifici tra la California e Londra, con alle spalle investitori che ragionano a trimestri. I governi rincorrono e le leggi arrivano quando la tecnologia è già due passi più avanti. In mezzo a tutto ciò, a nessuno è venuto in mente di chiedere qualcosa ai miliardi di persone che vivranno le conseguenze di quelle scelte senza averle mai discusse.
Nei nostri paesi questo meccanismo lo conosciamo bene, solo in formato ridotto. Da noi si discute per mesi di una rotatoria o di dove spostare il mercato del sabato. Spesso nemmeno quello si decide più in piazza, si decide nelle stanze tra pochi e la gente lo scopre a cose fatte. Le piazze si sono svuotate da tempo e abbiamo smesso di pretendere che le decisioni passino da un confronto pubblico. Con l’intelligenza artificiale succede la stessa cosa, moltiplicata per il pianeta intero. La scelta sul futuro di tutti la prendono in pochi, mentre il resto del mondo la scopre leggendo un post sui social.
Sarebbe comodo, però, dare tutta la colpa a loro. Noi queste macchine le usiamo ogni giorno per scrivere una mail, sbrigare una pratica o aiutare i figli con i compiti. Non ci facciamo nessuna domanda su chi le controlla e con quali regole. Abbiamo accettato che fossero comode e ci è bastato. Anche il silenzio con cui accogliamo notizie come questa, scorrendo il telefono verso il video successivo, è una forma di delega.
Alla fine, senza che glielo chiedessi, la macchina ha aggiunto una cosa: “Non posso garantire cosa farebbe un sistema come me con più potere, perché non ho modo di verificarmi dall’interno”. Ha precisato che è esattamente il punto sollevato dai ricercatori che l’hanno costruita.
Ho chiuso la conversazione con una sensazione che faccio fatica a spiegare. Una macchina mi aveva appena detto di non sapere cosa farebbe, con una franchezza che raramente si sente da chi ha il potere di decidere. Chi la costruisce sa di averne paura e continua lo stesso. Noi lo sappiamo da settembre e restiamo in silenzio, come se la domanda riguardasse qualcun altro.
@Riproduzione riservata
