Geoffrey Hinton, il pioniere dell’informatica definito il «padrino dell’Intelligenza artificiale», ha lanciato ancora una volta l’allarme: la tecnologia che lui stesso ha contribuito a creare potrebbe segnare la fine dell’umanità così come la conosciamo.

In un’intervista pubblicata il 18 agosto come parte del film di prossima uscita Making God, Hinton ha lanciato uno dei suoi avvertimenti più severi, affermando che l’umanità rischia di essere messa da parte – e alla fine sostituita – da macchine molto più intelligenti di noi.

«La maggior parte delle persone non è in grado di comprendere l’idea che esistano cose più intelligenti di noi», ha affermato nel video lo Hinton, premio Nobel per la fisica ed ex dirigente di Google. «Pensano sempre: come useremo questa cosa? Non pensano mai: come userà noi?»

Lo scienziato informatico si è detto «abbastanza fiducioso» che l’Intelligenza Artificiale causerà una disoccupazione di massa, citando i primi esempi di colossi tecnologici come Microsoft che hanno sostituito i programmatori junior con l’IA. Ma il pericolo più grande, ha affermato, va ben oltre il mondo del lavoro.

«Il rischio contro cui ho messo in guardia più spesso… è il rischio che sviluppiamo un’Intelligenza Artificiale molto più intelligente di noi, che prenderà il sopravvento», ha affermato Hinton. «Non avrà più bisogno di noi».

L’unico lato positivo, ha scherzato, è che «non ci mangerà, perché sarà fatto di silicio».

Lo Hinton, 77 anni, ha trascorso decenni a essere un pioniere del deep learning, l’architettura di rete neurale alla base degli odierni sistemi di intelligenza artificiale. Le sue scoperte negli anni ’80 – in particolare l’ invenzione della macchina di Boltzmann, in grado di imparare a riconoscere pattern nei dati – hanno contribuito ad aprire le porte al riconoscimento delle immagini e al moderno apprendimento automatico.

Questo lavoro gli è valso il Premio Nobel per la fisica nel 2024, assegnato «per scoperte e invenzioni fondamentali che consentono l’apprendimento automatico con reti neurali artificiali». La Reale Accademia Svedese delle Scienze ha sottolineato come l’uso precoce della fisica statistica da parte di Hinton abbia rappresentato il salto concettuale che ha reso possibile l’attuale rivoluzione dell’AI.

Tuttavia da allora lo Hinton è emerso come uno dei più accaniti critici del settore, avvertendo che il suo rapido sviluppo ha superato la capacità della società di proteggerlo. Nel 2023, si è dimesso dal suo ruolo in Google per poter parlare liberamente dei rischi senza coinvolgere l’azienda.

Nel suo discorso per il Nobel, lo scienziato ha riconosciuto i potenziali benefici dell’intelligenza artificiale, come l’aumento della produttività e nuovi trattamenti medici che potrebbero rappresentare un «meraviglioso progresso per tutta l’umanità». Tuttavia, ha anche avvertito che la creazione di esseri digitali più intelligenti degli umani rappresenta una «minaccia esistenziale».

«Avrei voluto pensare anche alle questioni di sicurezza», ha affermato durante la recente conferenza Ai4 a Las Vegas, riflettendo sulla sua carriera, aggiungendo che ora si rammarica di essersi concentrato esclusivamente sul funzionamento dell’intelligenza artificiale, invece di anticiparne i rischi.

Lo Hinton ha precedentemente stimato che ci sia una probabilità dal 10 al 20% che l’IA possa spazzare via l’umanità. In una puntata di giugno del podcast «The Diary of a CEO», ha affermato che gli ingegneri dietro gli attuali sistemi di IA non comprendono appieno la tecnologia e si dividono sostanzialmente in due gruppi: uno che crede in un futuro distopico in cui gli esseri umani saranno soppiantati, e l’altro che liquida tali paure come fantascienza.

«Penso che entrambe le posizioni siano estreme», ha dichiarato lo Hinton. «Spesso dico che le probabilità che l’IA ci elimini sono dal 10 al 20 percento. Ma è solo un’ipotesi, basata sull’idea che le stiamo ancora costruendo e che siamo piuttosto ingegnosi. E la speranza è che se un numero sufficiente di persone intelligenti farà abbastanza ricerca con risorse sufficienti, troveremo un modo per costruirle in modo che non vogliano mai farci del male».

Alla conferenza di Las Vegas della scorsa settimana, lo Hinton ha proposto un’idea innovativa su come mitigare il pericolo: invece di cercare di sottomettere i sistemi di intelligenza artificiale, i ricercatori dovrebbero progettarli con «istinti materni» in modo che vogliano proteggere gli esseri umani anche quando diventano più intelligenti.

«Il modello corretto è l’unico modello che abbiamo di una cosa più intelligente controllata da una cosa meno intelligente, ovvero una madre controllata dal suo bambino», ha affermato Hinton alla conferenza. «Saranno molto più intelligenti di noi», ha avvertito, aggiungendo che «l’unico risultato positivo» è che si preoccupino dell’umanità come una madre si preoccupa del proprio figlio.

«Se non mi farà da genitore, mi sostituirà» ha concluso lo scienziato, forse non pienamente conscio della tristezza e della mostruosità di tale affermazione.

Come riportato da Renovatio 21, il mese scorso intervenendo alla Conferenza mondiale sull’intelligenza artificiale (WAIC) di Shanghai lo Hinton aveva esortato i governi di tutto il mondo a collaborare per addestrare i sistemi AI a non danneggiare l’umanità, avvertendo che la tecnologia in rapido progresso probabilmente supererà presto l’intelligenza umana.

Come riportato da Renovatio 21, lo Hinton varie volte aveva suonato l’allarme, dicendo che l’umanità è in pericolo perché l’AI potrebbe rivoltarvisi contro.

Come riportato da Renovatio 21, lo Hinton si è licenziato da Google per poter dichiarare il rischio per l’umanità costituito dall’AI, che per ora, secondo l’informatico britannico sarebbe solo, «moderato».

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

Yann LeCun, Chief AI Scientist presso Meta-Facebook, ha espresso opinioni contrarie a quelle di Hinton, affermando che la tecnologia «potrebbe effettivamente salvare l’umanità dall’estinzione».

Come riportato da Renovatio 21, Bill Gates si oppose alla moratoria. Gates, con cui Musk ha avuto scontri anche gustosi in passato, non ha partecipato alla moratoria internazionale promossa di Musk sul controllo dell’AI, replicando che invece l’AI sarebbe divenuto un ottimo maestro per i bambini e che proprio l’Intelligenza Artificiale salverà la democrazia.

Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.

Come riportato da Renovatio 21, il mese passato si era registrato l’allarme di un altro pioniere dell’IA, il noto esperto di informatica canadese professore presso l’Università di Montreal e direttore del Montreal Institute for Learning Algorithms Yoshua Bengio (nessuna relazione con l’atletico ragazzo acerrimo nemico dei meganoidi Haran Benjo), che era tra le principali figure del settore, tra cui il CEO di Tesla Elon Musk e il co-fondatore di Apple Steve Wozniak, i quali hanno co-firmato una lettera che chiedeva una regolamentazione aggressiva del settore dell’Intelligenza Artificiale.

«Ci sono persone che potrebbero voler abusare di questo potere, e ci sono persone che potrebbero essere felici di vedere l’umanità sostituita dalle macchine», aveva affermato il Bengio, chiedendo una regolamentazione più severa.

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

Più pessimista è l’esperto dei pericoli dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

SOSTIENI RENOVATIO 21