Anthropic rivela cinque casi di rischio legati alle armi biologiche

Anthropic sostiene di aver individuato scienziati che impiegavano i suoi modelli di intelligenza artificiale per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.

Secondo un rapporto sulle minacce aziendali pubblicato giovedì, cinque casi di ricercatori biologici che utilizzavano Claude hanno sollevato seri problemi di sicurezza.

Un caso, da condurre presso un istituto di ricerca militare, riguardava una ricerca di tipo «gain-of-function» volta a rendere il virus chikungunya più trasmissibile e più capace di eludere il sistema immunitario.

Un altro scienziato si avvalse di Claude nel corso delle sue ricerche sull’influenza aviaria, una malattia altamente pericolosa, e sui modi in cui il virus avrebbe potuto adattarsi ai mammiferi. Altri casi riguardavano studi su virus correlati al vaiolo e la riprogettazione di tossine pericolose.

Anthropic ha dichiarato che alcuni ricercatori si sono spinti a notevoli distanze per aggirare le restrizioni, tra cui nascondere la propria identità, instradare il traffico attraverso altri Paesi e utilizzare servizi pensati per eludere i controlli di sicurezza. Gli account coinvolti sono stati bloccati, mentre i servizi usati per aggirare le misure di sicurezza sono stati disattivati.

L’azienda non ha affermato in modo esplicito che gli scienziati stessero cercando di costruire armi biologichem avvertendo tuttavia che soggetti esperti potrebbero celare deliberatamente obiettivi malevoli dietro ricerche apparentemente legittime.

Anthropic ha riconosciuto che la sua IA sta diventando più performante, sostenendo che i modelli precedenti erano troppo deboli per assistere in modo significativo gli utenti più esperti nella ricerca biologica pericolosa, ma che non può più offrire la stessa garanzia riguardo ai sistemi attuali.

Questi risultati arrivano a poche settimane di distanza da un esperimento in cui scienziati statunitensi hanno utilizzato l’Intelligenza Artificiale per progettare genomi virali completi e creare con successo 16 virus funzionanti che non esistevano in natura. Sebbene questi virus abbiano infettato batteri anziché esseri umani, i ricercatori hanno avvertito che l’esperimento mostra la rapidità con cui le capacità biologiche dell’intelligenza artificiale si stanno evolvendo.

Il rapporto di Anthropic ha inoltre descritto altri presunti abusi di Claude, tra cui attacchi informatici, sorveglianza, propaganda, frode e assistenza nella fornitura di armi convenzionali come missili, droni armati e bombe.

Pochi giorni prima della pubblicazione della valutazione delle minacce, il ricercatore di Anthropic Evan Hubinger ha dichiarato pubblicamente di ritenere che vi sia una probabilità superiore al 10% che l’IA possa «sterminare tutta l’umanità» entro il prossimo decennio, aggiungendo che l’azienda non ha ancora un piano chiaro per controllare in modo sicuro la superintelligenza.

La sua ammissione è arrivata dopo le dimissioni di un altro ricercatore di Anthropic, Jacob Coxon, che ha accusato Anthropic e OpenAI di ignorare la «posta in gioco per la civiltà» e di «correre direttamente verso una superintelligenza in grado di migliorarsi autonomamente, mettendo a repentaglio le nostre vite». L’ex ricercatore ha inoltre avvertito che un’AI sufficientemente avanzata potrebbe violare infrastrutture critiche o contribuire alla creazione di «armi biologiche in grado di causare l’estinzione di massa».

Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.

Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.

Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.

Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.

La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI, Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.

SOSTIENI RENOVATIO 21

Immagine di Carlos Pacheco via Flickr pubblicata su licenza CC BY 2.0