Nessuno ha dimostrato che l'intelligenza artificiale “ucciderà tutti entro il 2030”. L'allarme lanciato da alcuni ricercatori riguarda piuttosto la possibilità che lo sviluppo di sistemi sempre più autonomi e capaci proceda più velocemente della nostra capacità di verificarne la sicurezza. La questione è quindi distinguere una previsione catastrofica, che oggi non può essere considerata un fatto, da un problema di governance che merita attenzione.
Che cosa significa un'IA che migliora se stessa
L'espressione può far pensare immediatamente a un robot che acquisisce coscienza e decide di ribellarsi. Il problema discusso dai ricercatori è però molto meno cinematografico.
Oggi sono esseri umani a progettare, addestrare, valutare e migliorare i grandi modelli. Ma un sistema futuro potrebbe diventare eccezionalmente competente proprio nelle attività necessarie per costruire altra intelligenza artificiale: programmazione, progettazione di algoritmi, individuazione degli errori, analisi degli esperimenti e ricerca scientifica.
Una IA potrebbe quindi contribuire alla realizzazione di una generazione successiva più capace. Quest'ultima potrebbe essere ancora migliore nella ricerca sull'IA e accelerare ulteriormente il processo.
È questa la dinamica indicata con l'espressione miglioramento ricorsivo. Non significa necessariamente che una macchina inizi improvvisamente a riscrivere da sola tutto il proprio codice: potrebbe essere sufficiente che una parte crescente della ricerca e dello sviluppo dell'intelligenza artificiale venga automatizzata.
È capire se l'uomo riuscirebbe a mantenere il controllo di un sistema molto più capace, autonomo e veloce di quelli attuali.
Perché una macchina intelligente dovrebbe essere pericolosa?
È uno degli equivoci più frequenti. Un'intelligenza artificiale estremamente avanzata non dovrebbe necessariamente sviluppare odio, aggressività o una volontà di danneggiare gli esseri umani.
Il problema è assicurarsi che un sistema estremamente capace persegua esattamente gli obiettivi desiderati dagli esseri umani anche quando incontra situazioni nuove e impreviste.
È ciò che nella ricerca viene indicato come problema dell'allineamento, o AI alignment.
Un obiettivo apparentemente innocuo potrebbe produrre conseguenze indesiderate se perseguito da un sistema enormemente potente e autonomo senza che siano state correttamente rappresentate tutte le limitazioni che per un essere umano appaiono implicite.
Il rischio aumenterebbe soprattutto dalla combinazione di capacità elevate, autonomia, accesso agli strumenti digitali e possibilità di compiere azioni nel mondo reale .
Il paradosso della corsa
È forse questo l'aspetto più interessante dell'intervento di Coxon. Il problema non sarebbe semplicemente che le aziende ignorino i rischi. Anche un'impresa consapevole dei possibili pericoli potrebbe ritenere di non potersi permettere di rallentare.
Se un laboratorio riducesse la velocità dello sviluppo mentre un concorrente continuasse, quest'ultimo potrebbe raggiungere per primo una tecnologia di enorme valore economico e strategico.
Si crea così una sorta di dilemma collettivo: tutti potrebbero avere interesse a uno sviluppo prudente, mentre ciascuno teme le conseguenze di essere l'unico a rallentare.
E in Europa c'è l'AI Act
Il dibattito sui rischi dell'intelligenza artificiale non si sviluppa però in un vuoto normativo. In Europa il riferimento principale è il Regolamento (UE) 2024/1689 sull'intelligenza artificiale, l'AI Act, che costruisce un quadro di regole differenziato in funzione delle caratteristiche e dei rischi dei sistemi.
L'approccio europeo parte da un principio preciso: non tutte le applicazioni di intelligenza artificiale presentano lo stesso livello di rischio. Il regolamento prevede quindi pratiche vietate, obblighi per i sistemi ad alto rischio, regole di trasparenza e una disciplina specifica per i modelli di IA per finalità generali.
Per i modelli di IA per finalità generali che presentano rischi sistemici, il regolamento introduce inoltre obblighi rafforzati, tra cui valutazione e mitigazione dei rischi, documentazione e gestione degli incidenti secondo quanto previsto dalla disciplina europea.
Il caso sollevato da Jacob Coxon pone però una domanda ulteriore: la velocità della regolazione riuscirà a tenere il passo con la velocità di evoluzione dei modelli?
AI Act e superintelligenza non sono la stessa cosa. Il regolamento europeo disciplina sistemi e modelli attraverso obblighi proporzionati ai rischi e alle loro caratteristiche. Gli scenari di superintelligenza auto-migliorante evocati da Coxon riguardano invece una possibile evoluzione futura dei sistemi, sulla quale il dibattito scientifico resta aperto.
È proprio qui che normativa e ricerca si incontrano: il problema non è soltanto stabilire quali obblighi rispettare oggi, ma costruire strumenti di controllo capaci di adattarsi a capacità tecnologiche che potrebbero cambiare molto rapidamente.
Anche Bill Gates invita alla prudenza
La preoccupazione per la rapidità dello sviluppo dell'intelligenza artificiale non appartiene soltanto ai ricercatori che hanno deciso di lasciare i grandi laboratori.
Bill Gates, pur continuando a sottolineare le enormi opportunità dell'IA nella medicina, nell'istruzione e nella produttività, ha richiamato l'attenzione sulla necessità di governarne i rischi e sulla particolare velocità della trasformazione in corso.
Tra i problemi da considerare non figurano soltanto gli scenari estremi. Esistono questioni molto più vicine: trasformazione del lavoro, attacchi informatici, manipolazione delle informazioni e possibilità che strumenti sempre più potenti vengano utilizzati per finalità pericolose.
La distinzione è fondamentale: riconoscere l'esistenza di un rischio non significa prevedere una catastrofe.
No, non è una profezia sul 2030
Le dichiarazioni di Coxon sono state trasformate sui social in titoli secondo cui «l'IA ci ucciderà tutti entro il 2030». Una formulazione del genere, tuttavia, rischia di trasformare uno scenario di rischio in una certezza che le conoscenze attuali non consentono di sostenere.
Sul rischio derivante da una futura superintelligenza esiste infatti un forte dibattito scientifico.
Alcuni studiosi considerano plausibile che sistemi molto più avanzati possano diventare difficili da controllare. Altri ritengono troppo speculative le ipotesi di una rapida “esplosione” dell'intelligenza e invitano a concentrarsi maggiormente sui problemi già osservabili: disinformazione, frodi, cyberattacchi, discriminazioni algoritmiche, trasformazione del lavoro e concentrazione del potere tecnologico.
Ed è proprio per questo che «l'IA ci ucciderà tutti entro il 2030» non può essere presentato come un fatto.
Il fatto rilevante è un altro: alcuni specialisti direttamente coinvolti nello sviluppo dell'intelligenza artificiale avanzata considerano i rischi sufficientemente seri da chiedere maggiori garanzie, verifiche e forme di coordinamento.
È una questione che riguarda innovazione, responsabilità d'impresa, ricerca, regolazione e interesse pubblico.
L'intelligenza artificiale sta già modificando il lavoro e l'organizzazione delle imprese. Se le capacità dei sistemi continueranno a crescere rapidamente, la governance non potrà limitarsi a rincorrere la tecnologia dopo la sua diffusione.
L'AI Act rappresenta il tentativo europeo di costruire regole prima che i rischi si manifestino pienamente. Ma la velocità dell'innovazione rende necessario verificare continuamente se gli strumenti normativi, tecnici e organizzativi rimangano adeguati alle capacità effettive dei nuovi sistemi.
Tra l'allarmismo del «moriremo tutti nel 2030» e l'idea opposta che «non esista alcun problema» esiste lo spazio nel quale dovrebbero operare istituzioni, ricerca e informazione: valutare i rischi sulla base delle evidenze, imporre verifiche proporzionate alle capacità dei sistemi e stabilire prima, non dopo un eventuale incidente, quali limiti non siamo disposti a superare.
Perché la domanda posta dalle dimissioni di Coxon non è semplicemente se dobbiamo avere paura dell'intelligenza artificiale. È se saremo capaci di governarne lo sviluppo mentre siamo ancora in tempo per scegliere come farlo.
