Pioniere dell’AI: i governi devono collaborare prima che sia troppo tardi

Il pioniere dell’Intelligenza Artificiale e premio Nobel per la pace Geoffrey Hinton ha esortato i governi di tutto il mondo a collaborare per addestrare i sistemi AI a non danneggiare l’umanità, avvertendo che la tecnologia in rapido progresso probabilmente supererà presto l’intelligenza umana.

Intervenendo alla Conferenza mondiale sull’intelligenza artificiale (WAIC) tenutasi sabato scorso a Shanghai, Hinton ha affermato che, nonostante i divergenti interessi nazionali, nessun Paese vuole che l’intelligenza artificiale domini l’umanità.

Lo Hinton ha osservato che è improbabile una cooperazione internazionale sull’uso offensivo dell’IA, come «attacchi informatici, armi autonome letali o falsi video per manipolare l’opinione pubblica». Tuttavia, le nazioni potrebbero formare una «rete di istituzioni» per guidare lo sviluppo di un’IA altamente intelligente «che non voglia sbarazzarsi delle persone», ha aggiunto Hinton, paragonando questa proposta di cooperazione alla collaborazione sovietico-americana sulla non proliferazione nucleare durante la Guerra Fredda.

Hinton, spesso definito il «padrino dell’Intelligenza Artificiale», ha paragonato lo sviluppo dell’IA all’«allevamento di un cucciolo di tigre» che potrebbe diventare pericoloso una volta cresciuto.

«Se hai un cucciolo di tigre come animale domestico, hai solo due opzioni. Scopri se puoi addestrarlo in modo che non voglia mai ucciderti, oppure sbarazzartene», ha detto lo scienziato.

Ha spiegato che è probabile che l’Intelligenza Artificiale cerchi sempre più di avere un controllo maggiore per portare a termine i compiti assegnati, man mano che diventa più intelligente, e che limitarsi a «disattivarla» quando supera l’umanità non sarà un’opzione.

«Noi saremo come bambini di tre anni e loro saranno come adulti», ha detto Hinton. Parlando alla stampa più tardi nella giornata, ha osservato che dovrebbe essere relativamente facile per le nazioni «razionali» cooperare sull’argomento, ma ha detto che potrebbe essere «difficile» per gli Stati Uniti sotto «la loro attuale amministrazione».

Mercoledì la Casa Bianca ha annunciato il suo «piano d’azione» per raggiungere il «dominio globale» nell’AI attraverso investimenti, sussidi e la rimozione delle restrizioni legali allo sviluppo della tecnologia.

Pechino ha annunciato l’intenzione di istituire un’organizzazione per coordinare la cooperazione internazionale in materia di intelligenza artificiale.«Dovremmo rafforzare il coordinamento per formare un quadro di governance globale per l’Intelligenza Artificiale», ha dichiarato sabato il premier cinese Li Qiang alla WAIC.

Come riportato da Renovatio 21, lo Hinton varie volte aveva suonato l’allarme, dicendo che l’umanità è in pericolo perché l’AI potrebbe rivoltarvisi contro.

Come riportato da Renovatio 21, lo Hinton si è licenziato da Google per poter dichiarare il rischio per l’umanità costituito dall’AI, che per ora, secondo l’informatico britannico sarebbe solo, «moderato».

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

Yann LeCun, Chief AI Scientist presso Meta-Facebook, ha espresso opinioni contrarie a quelle di Hinton, affermando che la tecnologia «potrebbe effettivamente salvare l’umanità dall’estinzione».

Come riportato da Renovatio 21, Bill Gates si oppose alla moratoria. Gates, con cui Musk ha avuto scontri anche gustosi in passato, non ha partecipato alla moratoria internazionale promossa di Musk sul controllo dell’AI, replicando che invece l’AI sarebbe divenuto un ottimo maestro per i bambini e che proprio l’Intelligenza Artificiale salverà la democrazia.

Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.

Come riportato da Renovatio 21, il mese passato si era registrato l’allarme di un altro pioniere dell’IA, il noto esperto di informatica canadese professore presso l’Università di Montreal e direttore del Montreal Institute for Learning Algorithms Yoshua Bengio (nessuna relazione con l’atletico ragazzo acerrimo nemico dei meganoidi Haran Benjo), che era tra le principali figure del settore, tra cui il CEO di Tesla Elon Musk e il co-fondatore di Apple Steve Wozniak, i quali hanno co-firmato una lettera che chiedeva una regolamentazione aggressiva del settore dell’Intelligenza Artificiale.

«Ci sono persone che potrebbero voler abusare di questo potere, e ci sono persone che potrebbero essere felici di vedere l’umanità sostituita dalle macchine», aveva affermato il Bengio, chiedendo una regolamentazione più severa.

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

Più pessimista è l’esperto dei pericoli dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

SOSTIENI RENOVATIO 21