Il padrino dell’AI torna ad avvertire: l’umanità è in pericolo

L’Intelligenza Artificiale potrebbe portare all’estinzione umana entro tre decenni con una probabilità fino al 20%, secondo Geoffrey Hinton, una figura pionieristica dell’IA e vincitore del premio Nobel per la fisica nel 2024. Ciò segna un aumento rispetto al rischio del 10%, stimato solo un anno fa.

Durante un’intervista su BBC Radio 4 giovedì, a Hinton è stato chiesto se fosse cambiato qualcosa dalla sua precedente stima di una probabilità su dieci di un’apocalisse dell’IA. Lo scienziato vincitore del premio Turing ha risposto: «Non proprio, dal 10% al 20%».

Ciò ha portato il direttore ospite dello show, l’ex cancelliere Sajid Javid, a dire «state salendo». L’informatico, che ha lasciato Google l’anno scorso, ha risposto: «Se non altro. Vedete, non abbiamo mai dovuto avere a che fare con cose più intelligenti di noi prima».

Acquistate le Maglie Crociate

Lo scienziato britannico-canadese, che quest’anno ha ricevuto il premio Nobel per la fisica per il suo contributo all’Intelligenza Artificiale, ha evidenziato le sfide legate al controllo dei sistemi di intelligenza artificiale avanzati.

«Quanti esempi conosci di una cosa più intelligente controllata da una cosa meno intelligente?… L’evoluzione ha lavorato molto per consentire al bambino di controllare la madre, ma questo è l’unico esempio che conosco», ha affermato lo Hinton, spesso chiamato «il padrino dell’intelligenza artificiale».

«Immagina te stesso e un bambino di tre anni. Saremo noi il bambino di tre anni», rispetto a un’Intelligenza Artificiale futura che sarebbe «più intelligente delle persone», ha continuato lo scienziato, osservando che i progressi sono stati «molto più rapidi di quanto mi aspettassi» e chiedendo una regolamentazione per garantire la sicurezza.

Lo Hinton ha quindi messo in guardia dal fare affidamento esclusivamente su motivazioni di profitto aziendale, affermando che «l’unica cosa che può costringere queste grandi aziende a fare più ricerca sulla sicurezza è la regolamentazione governativa».

Nel maggio 2023, il Center for AI Safety ha rilasciato una dichiarazione firmata da eminenti scienziati del settore, tra cui lo Hinton, avvertendo che «attenuare il rischio di estinzione dovuto all’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come pandemie e guerre nucleari». Tra i firmatari ci sono il CEO di Tesla Elon Musk, il co-fondatore di Apple Steve Wozniak e Yoshua Bengio, considerato un pioniere dell’IA per il suo lavoro sulle reti neurali.

Lo Hinton ritiene che i sistemi di Intelligenza Artificiale potrebbero alla fine superare l’intelligenza umana, sfuggire al controllo umano e, potenzialmente, causare danni catastrofici all’umanità. Egli sostiene la necessità di dedicare risorse significative per garantire la sicurezza e l’uso etico dell’intelligenza artificiale, sottolineando anche l’urgente necessità di misure proattive prima che sia troppo tardi.

Come riportato da Renovatio 21, lo Hinton si è licenziato da Google per poter dichiarare il rischio per l’umanità costituito dall’AI, che per ora, secondo l’informatico britannico sarebbe solo, «moderato».

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

Yann LeCun, Chief AI Scientist presso Meta-Facebook, ha espresso opinioni contrarie a quelle di Hinton, affermando che la tecnologia «potrebbe effettivamente salvare l’umanità dall’estinzione».

Come riportato da Renovatio 21, Bill Gates si oppose alla moratoria. Gates, con cui Musk ha avuto scontri anche gustosi in passato, non ha partecipato alla moratoria internazionale promossa di Musk sul controllo dell’AI, replicando che invece l’AI sarebbe divenuto un ottimo maestro per i bambini e che proprio l’Intelligenza Artificiale salverà la democrazia.

Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.

Come riportato da Renovatio 21, il mese passato si era registrato l’allarme di un altro pioniere dell’IA, il noto esperto di informatica canadese professore presso l’Università di Montreal e direttore del Montreal Institute for Learning Algorithms Yoshua Bengio (nessuna relazione con Haran Benjo), che era tra le principali figure del settore, tra cui il CEO di Tesla Elon Musk e il co-fondatore di Apple Steve Wozniak, che l’anno scorso hanno co-firmato una lettera che chiedeva una regolamentazione aggressiva del settore dell’Intelligenza Artificiale.

«Ci sono persone che potrebbero voler abusare di questo potere, e ci sono persone che potrebbero essere felici di vedere l’umanità sostituita dalle macchine», aveva affermato il Bengio, chiedendo una regolamentazione più severa.

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

Più pessimista è l’esperto dei pericolo dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

SOSTIENI RENOVATIO 21