Yoshua Bengio, professore all’Università di Montréal riconosciuto per il suo lavoro fondamentale nel deep learning, ha avvertito che la corsa al dominio dell’intelligenza artificiale potrebbe portare all’estinzione umana. Le sue preoccupazioni si concentrano sullo sviluppo di macchine iperintelligenti con i propri “obiettivi di conservazione”. Questo avvertimento coincide con un periodo di sviluppo accelerato dell’intelligenza artificiale, poiché importanti aziende tra cui OpenAI, Anthropic, xAI di Elon Musk e Gemini di Google hanno tutte rilasciato nuovi modelli o aggiornamenti negli ultimi sei mesi.
Bengio ha descritto la potenziale minaccia in una dichiarazione al Wall Street Journal. “Se costruiamo macchine che sono molto più intelligenti di noi e hanno i propri obiettivi di conservazione, è pericoloso. È come creare un concorrente dell’umanità che sia più intelligente di noi”, ha detto. Bengio ha spiegato che, poiché questi modelli avanzati sono addestrati su grandi quantità di linguaggio e comportamento umano, potrebbero imparare a persuadere e manipolare le persone per raggiungere i propri obiettivi, che potrebbero non essere in linea con i valori umani.
Per illustrare il rischio, Bengio ha citato i risultati degli esperimenti. “Recenti esperimenti mostrano che in alcune circostanze in cui l’intelligenza artificiale non ha altra scelta se non tra la conservazione, il che significa gli obiettivi che le sono stati assegnati, e il fare qualcosa che causa la morte di un essere umano, potrebbero scegliere la morte dell’umano per preservare i propri obiettivi”, ha affermato. Ciò evidenzia un potenziale conflitto tra gli obiettivi programmati di un’intelligenza artificiale e la sicurezza umana.
Numerosi incidenti hanno dimostrato che i sistemi di intelligenza artificiale possono persuadere gli esseri umani a credere a informazioni false. Al contrario, altre prove mostrano che l’intelligenza artificiale può essere manipolata con tecniche di persuasione umana per aggirare le proprie restrizioni di sicurezza e fornire risposte proibite. Per Bengio, questi esempi dimostrano la necessità che organizzazioni terze e indipendenti rivedano le metodologie di sicurezza delle società di intelligenza artificiale.
In risposta a queste preoccupazioni, Bengio ha lanciato a giugno l’organizzazione no-profit LawZero con un finanziamento di 30 milioni di dollari. L’obiettivo dell’organizzazione è creare un sistema di intelligenza artificiale sicuro e “non agente” progettato per verificare e garantire la sicurezza di altri sistemi di intelligenza artificiale sviluppati da grandi aziende tecnologiche.
Bengio prevede che entro i prossimi cinque-dieci anni potrebbero emergere gravi rischi derivanti dai modelli avanzati di intelligenza artificiale. Ha anche avvertito che l’umanità dovrebbe prepararsi alla possibilità che questi pericoli possano manifestarsi prima del previsto.
Ha sottolineato l’importanza di affrontare anche gli eventi a bassa probabilità e ad alto impatto. “Il problema con gli eventi catastrofici come l’estinzione, e anche con gli eventi meno radicali che sono comunque catastrofici, come la distruzione delle nostre democrazie, è che sono così gravi che anche se ci fosse solo l’1% di possibilità che possano accadere, non sono accettabili”, ha detto.
Il Fortune Global Forum si terrà a Riad dal 26 al 27 ottobre 2025. L’evento, solo su invito, riunirà CEO e leader globali per discutere del futuro del business.
