Anthropic sostiene di aver individuato scienziati che impiegavano i suoi modelli di intelligenza artificiale per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.   Secondo un rapporto sulle minacce aziendali pubblicato giovedì, cinque casi di ricercatori biologici che utilizzavano Claude hanno sollevato seri problemi di sicurezza.   Un caso, da condurre presso un istituto di ricerca militare, riguardava una ricerca di tipo «gain-of-function» volta a rendere il virus chikungunya più trasmissibile e più capace di eludere il sistema immunitario.   Un altro scienziato si avvalse di Claude nel corso delle sue ricerche sull’influenza aviaria, una malattia altamente pericolosa, e sui modi in cui il virus avrebbe potuto adattarsi ai mammiferi. Altri casi riguardavano studi su virus correlati al vaiolo e la riprogettazione di tossine pericolose. Anthropic ha dichiarato che alcuni ricercatori si sono spinti a notevoli distanze per aggirare le restrizioni, tra cui nascondere la propria identità, instradare il traffico attraverso altri Paesi e utilizzare servizi pensati per eludere i controlli di sicurezza. Gli account coinvolti sono stati bloccati, mentre i servizi usati per aggirare le misure di sicurezza sono stati disattivati.   L’azienda non ha affermato in modo esplicito che gli scienziati stessero cercando di costruire armi biologichem avvertendo tuttavia che soggetti esperti potrebbero celare deliberatamente obiettivi malevoli dietro ricerche apparentemente legittime.   Anthropic ha riconosciuto che la sua IA sta diventando più performante, sostenendo che i modelli precedenti erano troppo deboli per assistere in modo significativo gli utenti più esperti nella ricerca biologica pericolosa, ma che non può più offrire la stessa garanzia riguardo ai sistemi attuali.   Questi risultati arrivano a poche settimane di distanza da un esperimento in cui scienziati statunitensi hanno utilizzato l’Intelligenza Artificiale per progettare genomi virali completi e creare con successo 16 virus funzionanti che non esistevano in natura. Sebbene questi virus abbiano infettato batteri anziché esseri umani, i ricercatori hanno avvertito che l’esperimento mostra la rapidità con cui le capacità biologiche dell’intelligenza artificiale si stanno evolvendo.   Il rapporto di Anthropic ha inoltre descritto altri presunti abusi di Claude, tra cui attacchi informatici, sorveglianza, propaganda, frode e assistenza nella fornitura di armi convenzionali come missili, droni armati e bombe.   Pochi giorni prima della pubblicazione della valutazione delle minacce, il ricercatore di Anthropic Evan Hubinger ha dichiarato pubblicamente di ritenere che vi sia una probabilità superiore al 10% che l’IA possa «sterminare tutta l’umanità» entro il prossimo decennio, aggiungendo che l’azienda non ha ancora un piano chiaro per controllare in modo sicuro la superintelligenza.   La sua ammissione è arrivata dopo le dimissioni di un altro ricercatore di Anthropic, Jacob Coxon, che ha accusato Anthropic e OpenAI di ignorare la «posta in gioco per la civiltà» e di «correre direttamente verso una superintelligenza in grado di migliorarsi autonomamente, mettendo a repentaglio le nostre vite». L’ex ricercatore ha inoltre avvertito che un’AI sufficientemente avanzata potrebbe violare infrastrutture critiche o contribuire alla creazione di «armi biologiche in grado di causare l’estinzione di massa».   Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.   Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico. Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.   Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.   La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI, Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso. SOSTIENI RENOVATIO 21

Immagine di Carlos Pacheco via Flickr pubblicata su licenza CC BY 2.0      

Un ricercatore nel campo dell’Intelligenza Artificiale ha annunciato le proprie dimissioni e ha messo in guardia le persone sui pericoli di questa tecnologia.

 

Jacob Coxon, che negli ultimi anni ha lavorato come ricercatore presso OpenAI e Anthropic, ha affermato in una serie di post su X che nessuna delle due aziende si sta comportando in modo responsabile nel suo percorso verso quella che ha definito un’intelligenza artificiale superintelligente, capace di auto-miglioramento.

 

«Non sottovalutate il potere di questa tecnologia. Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all’altro e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e questi progressi non accennano a rallentare», ha affermato Coxon.

 

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

 

Come sa il lettore di Renovatio 21, i moniti apocalittici sull’AI si sprecano.

 

Mesi fa Mrinank Sharma, fino a poco prima responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un avvertimento sul cammino verso l’Intelligenza Artificiale Generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.

 

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

 

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

 

Altre voci, tuttavia, propendono per un’interpretazione più rosea. Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti, ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.

 

Contrariamente, l’anno passato il CEO di Anthropic Dario Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Nel frattempo le notizie di IA definite come pericolose o persino «impazzite» abbondano.

 

Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

Nel maggio 2026 l’ex CEO di Google Eric Schmidt ha tenuto un TED Talk, presentando uno scenario ipotetico per evidenziare come le tensioni geopolitiche potrebbero accelerare la corsa agli armamenti dell’IA, in particolare tra Stati Uniti e Cina, con la conseguenza di vedere i datacenter bombardati come obiettivi strategici.

 

L’idea di bombardare i data center AI è abbracciata anche dal neoluddismo cibernetico degli strenui oppositori dell’Intelligenza Artificiale come l’attivista Eliezer Yudkowsky, che vede nella distruzione dei centri che ospitano fisicamente i computer l’unico modo per fermare l’ascesa dell’Intelligenza Artificiale che potrebbe spazzare via l’intera umanità.

 

Lo Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

 

SOSTIENI RENOVATIO 21

 

 

 

OpenAI è finita sotto accusa dopo aver dichiarato che la propria Intelligenza Artificiale ha risolto uno dei quesiti più noti della matematica. Vari ricercatori dubitano del percorso con cui l’azienda sarebbe arrivata a quel risultato, mentre altri la accusano di aver enfatizzato oltre misura la scoperta per alzare la valutazione in vista di una possibile IPO.   Martedì l’azienda ha comunicato che un sistema interno di intelligenza artificiale ha risolto il problema di Navier-Stokes, uno dei celebri quesiti del Millennium Prize. Il problema riguarda le equazioni che descrivono il moto di liquidi e gas e si chiede se la matematica possa cessare di valere in determinate condizioni. Una soluzione corretta vale un premio di 1 milione di dollari messo in palio dal Clay Mathematics Institute.   OpenAI ha spiegato che circa 10.000 agenti di Intelligenza Artificiale hanno lavorato al quesito per circa 88 ore, scambiandosi milioni di messaggi e generando circa 130 miliardi di token di output prima di produrre una prova verificata dal computer.   L’azienda sostiene che il risultato rispetti i requisiti ufficiali del bando, pur senza intendere di reclamare il premio in denaro. Ha inoltre presentato l’impresa come prova della rapidità con cui i suoi sistemi interni di intelligenza artificiale stanno avanzando. L’annuncio ha suscitato reazioni contrastanti: alcuni lo hanno definito «un giorno entusiasmante per la matematica», mentre altri hanno avanzato sospetti di plagio e hanno messo in dubbio la reale portata del risultato.   Il matematico della New York University Tristan Buckmaster ha accusato OpenAI di aver destinato ingenti risorse al problema solo dopo aver saputo che lui e il ricercatore di Anthropic Levent Alpöge stavano ottenendo progressi con un approccio affine.   I matematici hanno inoltre avvertito di non proclamare il problema risolto prima che la dimostrazione venga esaminata in modo indipendente. Diego Cordoba, il cui lavoro ha contribuito a definire l’approccio usato dall’IA, ha detto che una soluzione valida sarebbe una «grande sorpresa».   Altri sono stati ben più duri. Il noto commentatore tecnologico Mehdi, che ha un vasto seguito su X, ha lanciato un lungo attacco all’annuncio dicendo al CEO di OpenAI Sam Altman di «andare a farsi fottere», prima di accusare l’azienda di tentare di «privatizzare il meccanismo stesso della conoscenza umana».   Mehdi sosteneva che OpenAI avesse affrontato una versione semplificata del problema, usando la forza bruta computazionale anziché il vero ragionamento automatico o l’intuizione scientifica, insinuando che la presunta svolta fosse stata ottenuta da migliaia di agenti di IA che si limitavano a esplorare un terreno matematico già percorso da ricercatori umani, allo scopo di fabbricare un «momento Sputnik» artificiale per alimentare l’entusiasmo intorno alla propria tecnologia e gonfiarne la valutazione in vista della quotazione in borsa.   OpenAI ha ammesso che il progetto è nato dopo aver sentito voci secondo cui matematici esterni avevano fatto progressi su problemi correlati, ma ha negato di aver avuto accesso ai loro lavori inediti. Allo stesso tempo ha dichiarato di non poter escludere che i dati anonimizzati derivanti dall’uso dei prodotti OpenAI abbiano contribuito a migliorare i suoi modelli.   Il 2026 è stato definito da diversi osservatori come l’inizio di una «nuova età dell’oro» per la scienza assistita dall’IA, con progressi che vanno ben oltre la semplice automazione: in diversi casi l’IA ha prodotto risultati scientifici originali che gli esseri umani non erano riusciti a raggiungere da soli. A maggio un modello non ancora rilasciato di OpenAI, durante una valutazione di routine, ha smentito la congettura di Erdős sulla distanza unitaria, un problema di geometria combinatoria aperto dal 1946 — non riformulando una tecnica nota, ma producendo un vero controesempio che matematici e combinatoristi esperti hanno riconosciuto come originale. A luglio un altro modello ha risolto un problema che tormentava i matematici dal 1939, con un post di un dipendente Anthropic che ha superato 20 milioni di visualizzazioni su X.   Sempre quest’anno una collaborazione tra l’Institute for Advanced Study e DeepMind, con un sistema chiamato LeanMind, ha dimostrato la congettura di Sylvester-Gallai — descritta come il primo problema aperto rilevante risolto dall’IA senza sostanziale guida umana, verificata formalmente in Coq e pubblicata sugli Annals of Mathematics. Un team di Oxford e MIT ha inoltre fatto progressi sostanziali sulla congettura di Hadamard, aperta da oltre un secolo, combinando teoria dei disegni combinatori e ricottura quantistica, un un metodo di calcolo specializzato che usa i principi della meccanica quantistica per trovare la soluzione ottimale (il minimo globale) all’interno di un vasto insieme di possibilità.   Questi risultati hanno prodotto anche reazioni caute nella comunità: a giugno 2026, sedici ricercatori di quindici università hanno pubblicato la Dichiarazione di Leida sull’Intelligenza Artificiale e la Matematica, chiedendo regole chiare su trasparenza, attribuzione e revisione paritaria prima che l’IA ridefinisca cosa significhi «conoscenza matematica».   SOSTIENI RENOVATIO 21

Immagine di pubblico dominio CC0 via Flickr