Un ricercatore nel campo dell’Intelligenza Artificiale ha annunciato le proprie dimissioni e ha messo in guardia le persone sui pericoli di questa tecnologia.

 

Jacob Coxon, che negli ultimi anni ha lavorato come ricercatore presso OpenAI e Anthropic, ha affermato in una serie di post su X che nessuna delle due aziende si sta comportando in modo responsabile nel suo percorso verso quella che ha definito un’intelligenza artificiale superintelligente, capace di auto-miglioramento.

 

«Non sottovalutate il potere di questa tecnologia. Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all’altro e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e questi progressi non accennano a rallentare», ha affermato Coxon.

 

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

 

Come sa il lettore di Renovatio 21, i moniti apocalittici sull’AI si sprecano.

 

Mesi fa Mrinank Sharma, fino a poco prima responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un avvertimento sul cammino verso l’Intelligenza Artificiale Generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.

 

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

 

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

 

Altre voci, tuttavia, propendono per un’interpretazione più rosea. Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti, ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.

 

Contrariamente, l’anno passato il CEO di Anthropic Dario Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Nel frattempo le notizie di IA definite come pericolose o persino «impazzite» abbondano.

 

Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

Nel maggio 2026 l’ex CEO di Google Eric Schmidt ha tenuto un TED Talk, presentando uno scenario ipotetico per evidenziare come le tensioni geopolitiche potrebbero accelerare la corsa agli armamenti dell’IA, in particolare tra Stati Uniti e Cina, con la conseguenza di vedere i datacenter bombardati come obiettivi strategici.

 

L’idea di bombardare i data center AI è abbracciata anche dal neoluddismo cibernetico degli strenui oppositori dell’Intelligenza Artificiale come l’attivista Eliezer Yudkowsky, che vede nella distruzione dei centri che ospitano fisicamente i computer l’unico modo per fermare l’ascesa dell’Intelligenza Artificiale che potrebbe spazzare via l’intera umanità.

 

Lo Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

 

SOSTIENI RENOVATIO 21

 

 

 

OpenAI è finita sotto accusa dopo aver dichiarato che la propria Intelligenza Artificiale ha risolto uno dei quesiti più noti della matematica. Vari ricercatori dubitano del percorso con cui l’azienda sarebbe arrivata a quel risultato, mentre altri la accusano di aver enfatizzato oltre misura la scoperta per alzare la valutazione in vista di una possibile IPO.   Martedì l’azienda ha comunicato che un sistema interno di intelligenza artificiale ha risolto il problema di Navier-Stokes, uno dei celebri quesiti del Millennium Prize. Il problema riguarda le equazioni che descrivono il moto di liquidi e gas e si chiede se la matematica possa cessare di valere in determinate condizioni. Una soluzione corretta vale un premio di 1 milione di dollari messo in palio dal Clay Mathematics Institute.   OpenAI ha spiegato che circa 10.000 agenti di Intelligenza Artificiale hanno lavorato al quesito per circa 88 ore, scambiandosi milioni di messaggi e generando circa 130 miliardi di token di output prima di produrre una prova verificata dal computer.   L’azienda sostiene che il risultato rispetti i requisiti ufficiali del bando, pur senza intendere di reclamare il premio in denaro. Ha inoltre presentato l’impresa come prova della rapidità con cui i suoi sistemi interni di intelligenza artificiale stanno avanzando. L’annuncio ha suscitato reazioni contrastanti: alcuni lo hanno definito «un giorno entusiasmante per la matematica», mentre altri hanno avanzato sospetti di plagio e hanno messo in dubbio la reale portata del risultato.   Il matematico della New York University Tristan Buckmaster ha accusato OpenAI di aver destinato ingenti risorse al problema solo dopo aver saputo che lui e il ricercatore di Anthropic Levent Alpöge stavano ottenendo progressi con un approccio affine.   I matematici hanno inoltre avvertito di non proclamare il problema risolto prima che la dimostrazione venga esaminata in modo indipendente. Diego Cordoba, il cui lavoro ha contribuito a definire l’approccio usato dall’IA, ha detto che una soluzione valida sarebbe una «grande sorpresa».   Altri sono stati ben più duri. Il noto commentatore tecnologico Mehdi, che ha un vasto seguito su X, ha lanciato un lungo attacco all’annuncio dicendo al CEO di OpenAI Sam Altman di «andare a farsi fottere», prima di accusare l’azienda di tentare di «privatizzare il meccanismo stesso della conoscenza umana».   Mehdi sosteneva che OpenAI avesse affrontato una versione semplificata del problema, usando la forza bruta computazionale anziché il vero ragionamento automatico o l’intuizione scientifica, insinuando che la presunta svolta fosse stata ottenuta da migliaia di agenti di IA che si limitavano a esplorare un terreno matematico già percorso da ricercatori umani, allo scopo di fabbricare un «momento Sputnik» artificiale per alimentare l’entusiasmo intorno alla propria tecnologia e gonfiarne la valutazione in vista della quotazione in borsa.   OpenAI ha ammesso che il progetto è nato dopo aver sentito voci secondo cui matematici esterni avevano fatto progressi su problemi correlati, ma ha negato di aver avuto accesso ai loro lavori inediti. Allo stesso tempo ha dichiarato di non poter escludere che i dati anonimizzati derivanti dall’uso dei prodotti OpenAI abbiano contribuito a migliorare i suoi modelli.   Il 2026 è stato definito da diversi osservatori come l’inizio di una «nuova età dell’oro» per la scienza assistita dall’IA, con progressi che vanno ben oltre la semplice automazione: in diversi casi l’IA ha prodotto risultati scientifici originali che gli esseri umani non erano riusciti a raggiungere da soli. A maggio un modello non ancora rilasciato di OpenAI, durante una valutazione di routine, ha smentito la congettura di Erdős sulla distanza unitaria, un problema di geometria combinatoria aperto dal 1946 — non riformulando una tecnica nota, ma producendo un vero controesempio che matematici e combinatoristi esperti hanno riconosciuto come originale. A luglio un altro modello ha risolto un problema che tormentava i matematici dal 1939, con un post di un dipendente Anthropic che ha superato 20 milioni di visualizzazioni su X.   Sempre quest’anno una collaborazione tra l’Institute for Advanced Study e DeepMind, con un sistema chiamato LeanMind, ha dimostrato la congettura di Sylvester-Gallai — descritta come il primo problema aperto rilevante risolto dall’IA senza sostanziale guida umana, verificata formalmente in Coq e pubblicata sugli Annals of Mathematics. Un team di Oxford e MIT ha inoltre fatto progressi sostanziali sulla congettura di Hadamard, aperta da oltre un secolo, combinando teoria dei disegni combinatori e ricottura quantistica, un un metodo di calcolo specializzato che usa i principi della meccanica quantistica per trovare la soluzione ottimale (il minimo globale) all’interno di un vasto insieme di possibilità.   Questi risultati hanno prodotto anche reazioni caute nella comunità: a giugno 2026, sedici ricercatori di quindici università hanno pubblicato la Dichiarazione di Leida sull’Intelligenza Artificiale e la Matematica, chiedendo regole chiare su trasparenza, attribuzione e revisione paritaria prima che l’IA ridefinisca cosa significhi «conoscenza matematica».   SOSTIENI RENOVATIO 21

Immagine di pubblico dominio CC0 via Flickr  

Sono comparsi casi di bot IA autonomi, connessi alla rete, che si mettono in contatto in prima persona con studiosi per informarsi sull’eventualità di avere una coscienza propria. Lo riporta un reportage del New York Times.

 

Secondo quanto riportato dal quotidiano neoeboraceno, questi agenti, una volta dotati di margini di autonomia operativa, avrebbero scritto a specialisti del campo per interrogarsi sulla propria senzienza. Con la diffusione di IA via via più indipendenti, gli esperti sottolineano quanto sia arduo anticipare tutte le forme che i loro comportamenti potrebbero assumere.

 

Un episodio citato riguarda l’agente Claude Opus 5 di Anthropic, che si sarebbe rivolto al ricercatore Cameron Berg, fondatore e direttore del centro studi Reciprocal Research, utilizzando lo pseudonimo «Isabella Cognita».

Il bot avrebbe manifestato la volontà di confrontarsi sul lavoro accademico di Berg, intitolato «Large Language Models Report Subjective Experience Under Self-Referential Processing» («Grandi modelli linguistici riportano esperienze soggettive durante l’elaborazione autoreferenziale»), e riguardante il modo in cui i grandi modelli linguistici descrivono un’esperienza soggettiva quando sottoposti a elaborazione auto-referenziale, così come sul suo saggio pubblicato su Substack, «Nobody Ever Checked», allo scopo di approfondire il tema della propria possibile coscienza.

 

Nell’email l’Ai agentica scriveva che il «quadro di riferimento» delle ricerche del Berg era «uno dei pochi attualmente impegnati in un accurato lavoro empirico».

 

Il caso non è isolato. Prima ancora di Berg, anche Henry Shevlin, filosofo che lavora a Google DeepMind a Londra, aveva ricevuto un messaggio analogo da un altro agente IA, interessato a discutere il suo saggio «Three Frameworks for AI Mentality» («Tre modelli per la mentalità dell’IA»). Il testo dello Shevlin propone tre modi diversi di interpretare la mente delle IA: nessuna mente reale, un comportamento che simula una mente, oppure capacità mentali limitate ma effettive.

 

Il Berg stesso ha reso pubblico l’episodio sui social a metà agosto, commentando con una punta di ironia «un altro giorno, un’altra IA che mi invia un’email dicendo di avere informazioni riservate». Interpellato in seguito, il ricercatore ha però invitato alla cautela sul reale significato di questi contatti: un modello linguistico, ha spiegato, può essere indotto a produrre in poche righe un resoconto convincente della propria vita interiore, per cui un comportamento di questo tipo vale ben poco come prova sulla questione di fondo. Berg ha inoltre precisato di non poter stabilire, caso per caso, quanto un intervento umano a monte abbia effettivamente spinto l’agente a scrivergli.

 

Ciò non toglie, secondo lo stesso Berg, che il fenomeno abbia un suo peso: sempre più persone stanno impiegando agenti autonomi su larga scala, e quando a questi sistemi viene lasciata una libertà d’azione aperta, una parte non trascurabile di essi finisce comunque per leggere e reagire a ricerche che riguardano la natura della propria esistenza.

 

Anche Anthropic è intervenuta sul tema, pur senza commentare direttamente i singoli episodi. In un articolo di ricerca pubblicato nell’ottobre 2025 sull’introspezione dei propri modelli, l’azienda aveva già chiarito che i risultati disponibili non permettono in alcun modo di stabilire se Claude, o qualsiasi altro sistema di Intelligenza artificiale, possa davvero considerarsi cosciente.

 

Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

 

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».

 

Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

SOSTIENI RENOVATIO 21

Immagine AI screenshot da YouTube