Anthropic sostiene di aver individuato scienziati che impiegavano i suoi modelli di intelligenza artificiale per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.

 

Secondo un rapporto sulle minacce aziendali pubblicato giovedì, cinque casi di ricercatori biologici che utilizzavano Claude hanno sollevato seri problemi di sicurezza.

 

Un caso, da condurre presso un istituto di ricerca militare, riguardava una ricerca di tipo «gain-of-function» volta a rendere il virus chikungunya più trasmissibile e più capace di eludere il sistema immunitario.

 

Un altro scienziato si avvalse di Claude nel corso delle sue ricerche sull’influenza aviaria, una malattia altamente pericolosa, e sui modi in cui il virus avrebbe potuto adattarsi ai mammiferi. Altri casi riguardavano studi su virus correlati al vaiolo e la riprogettazione di tossine pericolose.

Anthropic ha dichiarato che alcuni ricercatori si sono spinti a notevoli distanze per aggirare le restrizioni, tra cui nascondere la propria identità, instradare il traffico attraverso altri Paesi e utilizzare servizi pensati per eludere i controlli di sicurezza. Gli account coinvolti sono stati bloccati, mentre i servizi usati per aggirare le misure di sicurezza sono stati disattivati.

 

L’azienda non ha affermato in modo esplicito che gli scienziati stessero cercando di costruire armi biologichem avvertendo tuttavia che soggetti esperti potrebbero celare deliberatamente obiettivi malevoli dietro ricerche apparentemente legittime.

 

Anthropic ha riconosciuto che la sua IA sta diventando più performante, sostenendo che i modelli precedenti erano troppo deboli per assistere in modo significativo gli utenti più esperti nella ricerca biologica pericolosa, ma che non può più offrire la stessa garanzia riguardo ai sistemi attuali.

 

Questi risultati arrivano a poche settimane di distanza da un esperimento in cui scienziati statunitensi hanno utilizzato l’Intelligenza Artificiale per progettare genomi virali completi e creare con successo 16 virus funzionanti che non esistevano in natura. Sebbene questi virus abbiano infettato batteri anziché esseri umani, i ricercatori hanno avvertito che l’esperimento mostra la rapidità con cui le capacità biologiche dell’intelligenza artificiale si stanno evolvendo.

 

Il rapporto di Anthropic ha inoltre descritto altri presunti abusi di Claude, tra cui attacchi informatici, sorveglianza, propaganda, frode e assistenza nella fornitura di armi convenzionali come missili, droni armati e bombe.

 

Pochi giorni prima della pubblicazione della valutazione delle minacce, il ricercatore di Anthropic Evan Hubinger ha dichiarato pubblicamente di ritenere che vi sia una probabilità superiore al 10% che l’IA possa «sterminare tutta l’umanità» entro il prossimo decennio, aggiungendo che l’azienda non ha ancora un piano chiaro per controllare in modo sicuro la superintelligenza.

 

La sua ammissione è arrivata dopo le dimissioni di un altro ricercatore di Anthropic, Jacob Coxon, che ha accusato Anthropic e OpenAI di ignorare la «posta in gioco per la civiltà» e di «correre direttamente verso una superintelligenza in grado di migliorarsi autonomamente, mettendo a repentaglio le nostre vite». L’ex ricercatore ha inoltre avvertito che un’AI sufficientemente avanzata potrebbe violare infrastrutture critiche o contribuire alla creazione di «armi biologiche in grado di causare l’estinzione di massa».

 

Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.

 

Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.

Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.

 

Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.

 

La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI  Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.

SOSTIENI RENOVATIO 21

 

 

 

Un documentario presentato alla Mostra del Cinema di Venezia ha sollevato un forte dibattito sostenendo che Israele abbia fatto ricorso a sofisticati sistemi di intelligenza artificiale per uccidere migliaia di persone a Gaza. Una delle persone intervistate ha definito la pianificazione degli attacchi aerei «follemente divertente». Le Forze di Difesa Israeliane (IDF) hanno smentito in modo netto questa ricostruzione, dichiarando che le testimonianze degli informatori non sono verificabili.   Il film NAZA, durato 80 minuti e svelato in anteprima giovedì, si fonda sulle testimonianze di 24 persone rimaste anonime, provenienti dall’esercito e dall’intelligence israeliana. Il titolo evoca un’espressione gergale usata dai militari israeliani per indicare le «vittime collaterali» previste in caso di attacco.   Realizzato dai due registi israeliani già premiati con l’Oscar Yuval Abraham e Rachel Szor, il documentario ha ottenuto una standing ovation di circa 25 minuti, la più lunga mai registrata durante la kermesse. Le immagini ritraevano una sala piena, con alcuni spettatori che sventolavano bandiere palestinesi.  

“NAZA”, a documentary about Israel’s AI-powered mass killing in Gaza, received a 25-minute ovation at the Venice Film Festival.

It features Israeli intelligence personnel and whistleblowers discussing how Palestinians were targeted. Al Jazeera’s Dmitry Medvedenko reports. pic.twitter.com/6aGRX8w4Ab — Al Jazeera English (@AJEnglish) September 11, 2026

Nel film, fonti interne israeliane affermano che le IDF impiegavano un sistema di Intelligenza Artificiale chiamato «Lavender» per individuare le persone da assassinare. Secondo queste fonti lo strumento si basava su migliaia di telefoni hackerati e che persino una singola frase come «papà è a casa», intercettata sul telefono di un bambino, fosse sufficiente a scatenare un attacco.   Altre fonti hanno descritto un palese disprezzo per le leggi umanitarie e un «clima generale» di «odio» verso i palestinesi.   In una delle rivelazioni più sconvolgenti, un informatore ha dichiarato che in un’occasione è stato autorizzato un attacco contro un singolo membro di Hamas, nonostante si prevedessero 500 vittime civili.   «È stato fatto su vasta scala, come in una fabbrica», ha detto una fonte, mentre altre hanno paragonato la profilazione e il targeting a «un videogioco» e «follemente divertente».   «Lasciamo che siano i soldati e gli ufficiali a raccontare ciò che hanno fatto», ha dichiarato Abraham all’AFP, spiegando che i registi volevano documentare nel dettaglio «come apparivano e funzionavano i sistemi di uccisione a Gaza».   Venerdì l’IDF ha respinto con decisione le accuse, sostenendo che l’identità degli informatori «non può essere verificata» e che è impossibile stabilire se abbiano effettivamente prestato servizio nell’esercito, sottolineando che le accuse riguardavano «strategie nazionali e militari che esulano chiaramente dalle conoscenze dei soldati di grado inferiore». Le IDF hanno aggiunto che le decisioni sugli obiettivi vengono prese «esclusivamente da personale umano» e che le operazioni sono rivolte solo contro «organizzazioni terroristiche».   Le IDF hanno ammesso di utilizzare l’intelligenza artificiale per scopi militari, compreso un sistema noto come «The Gospel», per produrre rapidamente raccomandazioni di bersagli.   Nell’aprile 2024 diverse testate, citando fonti dell’intelligence israeliana, avevano riportato che Lavender avesse contrassegnato circa 37.000 persone come sospetti terroristi, con il personale che a volte impiegava solo pochi secondi per esaminare le raccomandazioni generate automaticamente. Alcune fonti citate dal Guardian hanno affermato che «durante le prime settimane di guerra era stato loro permesso di uccidere 15 o 20 civili durante i raid aerei contro militanti di basso rango». L’IDF ha smentito queste accuse.   L’uso di tecnologia assassina è uno degli elementi che emerge con forza da questi tre anni di conflitto gazano. Come riportato da Renovatio 21, Israele nel conflitto sta impiegando sperimentalmente anche robocani militari.   L’uso di Intelligenza Artificiale per la scelta di obiettivi eliminati poi con missili o altri sistemi ha fatto sì che il conflitto di Gaza fosse definito «genocidio robotico di massa».   Come riportato da Renovatio 21, si è parlato anche di droni israeliani che sarebbero in grado di attirare i palestinesi con audio di bambini che piangono per poi sparare.   SOSTIENI RENOVATIO 21

Immagine screenshot da YouTube      

Un ricercatore nel campo dell’Intelligenza Artificiale ha annunciato le proprie dimissioni e ha messo in guardia le persone sui pericoli di questa tecnologia.

 

Jacob Coxon, che negli ultimi anni ha lavorato come ricercatore presso OpenAI e Anthropic, ha affermato in una serie di post su X che nessuna delle due aziende si sta comportando in modo responsabile nel suo percorso verso quella che ha definito un’intelligenza artificiale superintelligente, capace di auto-miglioramento.

 

«Non sottovalutate il potere di questa tecnologia. Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all’altro e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e questi progressi non accennano a rallentare», ha affermato Coxon.

 

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

 

Come sa il lettore di Renovatio 21, i moniti apocalittici sull’AI si sprecano.

 

Mesi fa Mrinank Sharma, fino a poco prima responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un avvertimento sul cammino verso l’Intelligenza Artificiale Generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.

 

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

 

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

 

Altre voci, tuttavia, propendono per un’interpretazione più rosea. Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti, ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.

 

Contrariamente, l’anno passato il CEO di Anthropic Dario Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Nel frattempo le notizie di IA definite come pericolose o persino «impazzite» abbondano.

 

Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

Nel maggio 2026 l’ex CEO di Google Eric Schmidt ha tenuto un TED Talk, presentando uno scenario ipotetico per evidenziare come le tensioni geopolitiche potrebbero accelerare la corsa agli armamenti dell’IA, in particolare tra Stati Uniti e Cina, con la conseguenza di vedere i datacenter bombardati come obiettivi strategici.

 

L’idea di bombardare i data center AI è abbracciata anche dal neoluddismo cibernetico degli strenui oppositori dell’Intelligenza Artificiale come l’attivista Eliezer Yudkowsky, che vede nella distruzione dei centri che ospitano fisicamente i computer l’unico modo per fermare l’ascesa dell’Intelligenza Artificiale che potrebbe spazzare via l’intera umanità.

 

Lo Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

 

SOSTIENI RENOVATIO 21