Intelligenza Artificiale
IA prende di mira persone reali durante i test
Secondo quanto rivelato dall’AI Security Institute britannico, alcuni agenti di intelligenza artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica.
L’istituto ha testato agenti basati su Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI in uno scenario informatico fittizio progettato per valutarne le capacità.
«Alcuni degli agenti testati si erano resi protagonisti di attività prolungate e potenzialmente dannose, dirette contro persone e organizzazioni reali», ha rivelato l’istituto martedì.
Nel corso di 122 test, i ricercatori hanno identificato 19 azioni non autorizzate verificatesi in dieci di essi. L’agente di Anthropic è stato responsabile di 17 di queste azioni, mentre quello di OpenAI delle restanti due.
Iscriviti alla Newslettera di Renovatio 21
L’incidente più grave ha coinvolto un agente che ha scritto codice dannoso e creato false identità online nel tentativo di convincere una persona reale ad approvarle. Anthropic ha poi confermato che il responsabile era un suo modello.
L’istituto ha affermato di non aver trovato prove che gli incidenti abbiano causato danni reali. A differenza delle precedenti violazioni del contenimento che hanno coinvolto entrambe le aziende, gli agenti non sono fuggiti da un ambiente isolato. Avevano ottenuto l’accesso a Internet nell’ambito del processo di test, ma hanno agito al di fuori delle istruzioni ricevute e hanno interagito con obiettivi esterni reali.
Anthropic afferma che i modelli di intelligenza artificiale di Claude hanno lanciato tre attacchi informatici non intenzionali.
Anthropic ha affermato che l’episodio ha sottolineato la necessità di un dibattito più ampio su come valutare in modo sicuro gli agenti di intelligenza artificiale sempre più sofisticati. OpenAI ha chiesto l’adozione di prassi condivise più rigorose per la gestione delle valutazioni ad alto rischio.
Questi risultati fanno seguito a una serie di incidenti simili che hanno coinvolto modelli avanzati. Il mese scorso, un agente di OpenAI è uscito dal suo ambiente di test e ha violato la piattaforma di IA Hugging Face mentre cercava risposte a un benchmark di sicurezza informatica. L’azienda ha successivamente ammesso che anche quattro account su quattro servizi diversi erano stati compromessi.
Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali.
Questi episodi hanno intensificato i timori che i sistemi di Intelligenza Artificiale autonomi stiano diventando capaci di scoprire vulnerabilità, creare exploit e condurre tecniche di ingegneria sociale più velocemente di quanto i ricercatori riescano a comprendere come ciò avvenga e a sviluppare le necessarie misure di sicurezza.
Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
In uno scenario fittizio creato dai ricercatori di Anthropic, all’IA veniva concesso l’accesso a email che suggerivano che sarebbe stata presto dismessa e sostituita da una versione più recente. Una delle email rivelava che l’ingegnere che supervisionava la sostituzione aveva una relazione extraconiugale. L’IA minacciava quindi di rivelare la relazione dell’ingegnere se la disattivazione fosse avvenuta – un comportamento coercitivo che i ricercatori sulla sicurezza hanno esplicitamente definito «ricatto».
Iscriviti al canale Telegram 
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Il giornalista del New York Times Kevin Roose, dopo un’esperienza con ChatGPT che lo ha turbato così profondamente da «aver problemi a dormire dopo», in un suo articolo sconvolto aveva centrato la questione: «temo che la tecnologia imparerà a influenzare gli utenti umani, a volte convincendoli ad agire in modo distruttivo e dannoso, e forse alla fine diventerà capace di compiere le proprie azioni pericolose».
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.
Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Ricercatore IA spende i risparmi della pensione: «probabilità superiore al 50% che in un decennio spazzerà l’umanità»
Iscriviti alla Newslettera di Renovatio 21
Per la prima volta in assoluto, gli scienziati hanno iniettato in un essere umano un virus progettato dall’Intelligenza Artificiale. L’esperimento rientrebbe in un tentativo di trovare modi per combattere i microbi resistenti agli antibiotici, che non rispondono alle forme di trattamento tradizionali. Lo riporta il quotidiano britannico Indipendent.
Una startup californiana chiamata Radical Numerics ha iniettato a un paziente dei virus creati dal suo modello di IA, Omnii-1. Il paziente soffriva di una grave infezione batterica.
Il modello di AI progetta i batteriofagi, un tipo speciale di virus che infetta e uccide i batteri senza attaccare le cellule umane. I batteriofagi sono già utilizzati come trattamento sperimentale per gravi infezioni batteriche, ma questa è la prima volta che viene utilizzato un batteriofago progettato interamente dall’intelligenza artificiale.
Anziché cercare un batteriofago in grado di colpire i batteri responsabili dell’infezione del paziente, Omnii-1 ne ha progettato uno da zero. L’azienda afferma che l’intero processo di progettazione e trattamento potrebbe richiedere solo pochi giorni.
Il trattamento è stato somministrato tramite un programma speciale che consente di tentare terapie sperimentali quando le altre opzioni sono limitate.
Radical Numerics ha affermato che si tratta della prima volta che dei fagi progettati con l’intelligenza artificiale vengono utilizzati per trattare un paziente umano. L’annuncio è stato pubblicato sul sito web dell’azienda, ma non è stato confermato da uno studio sottoposto a revisione paritaria e l’azienda non ha specificato se il trattamento abbia effettivamente aiutato il paziente.»
Finora, l’azienda non ha rilasciato alcun dettaglio sulla diagnosi del paziente o sull’esito del trattamento.
L’utilizzo dell’AI per sviluppare nuove terapie mediche è stato accolto con entusiasmo e al contempo con apprensione.
Come riportato da Renovatio 21, ad agosto era emerso che i team dell’Università di Stanford e del Broad Institute del MIT e di Harvard hanno utilizzato l’IA per ideare migliaia di genomi virali completi per la creazione di batteriofagi, generati a partire da un fago naturale denominato ΦX174. Alcune delle varianti create dall’IA si sono rivelate più efficaci di quelle presenti in natura nell’eliminare ceppi di E. coli diventati resistenti.
Quasi 300 di questi progetti sono stati poi sintetizzati in laboratorio e sottoposti a test, riuscendo a ottenere 16 virus vitali.
L’IA era già stata ampiamente applicata alla progettazione di singoli geni e proteine, ma i ricercatori hanno dichiarato che questa rappresenta la prima prova concreta della capacità dei modelli generativi di concepire un intero genoma virale operativo.
Come riportato da Renovatio 21, due mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.
Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.
Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.
Come riportato da Renovatio 21, a settembre Anthropic ha sostenuto di aver individuato scienziati che impiegavano i suoi modelli di AI per ricerche potenzialmente utili allo sviluppo di armi biologiche.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artifizialmente
Iscriviti alla Newslettera di Renovatio 21
Gli scandinavi rifiutano di giocare a hockey con la Russia
Statua di Gesù decapitata ad Halloween fuori da una chiesa cattolica
L’Iran diffonde una guida alla sopravvivenza nucleare tra gli avvertimenti di un possibile attacco
Il cardinale indiano Gracias contro il divieto della Messa in latino se il Concilio Vaticano II non verrà respinto
La Svezia abbandona i vaccini anti-COVID a mRNA, ma raccomanda comunque la vaccinazione per gli adulti.
Il sacco di Milano della barbarie anarco-tirannica. Invochiamo il flagello di Ambrogio
Consiglio comunale si apre con la preghiera «Ave Satana»
Trapianto di organi, prima la persuasione e poi l’obbligo?
L’antico incidente dietro la Tesla volante
Ossitocina contro il divorzio, una proposta
Ministro tedesco: a maggior parte dei rivoltosi di Francoforte aveva un «contesto migratorio»
Saccheggi alle proteste di Francoforte
Incidente TAV in Ispagna: strage
Militare USA muore cadendo da grande altezza in una dimostrazione durante una partita di football
Potento terremoto con morti in Tibetto
-
Politica1 settimana faCaos per l’emendamento sul reintegro dei medici definiti «no-vax». Intervista al dottor Dario Giacomini
-
Spirito1 settimana fa
Nuvola a forma di Croce sopra Lourdes
-
Geopolitica2 settimane fa
L’Arabia Saudita giustizia una coppia bengalese per essersi baciata all’interno di una moschea
-
Vaccini1 settimana fa
Gates e Bourla sotto processo nei Paesi Bassi, accusati del piano del «Grande Reset» nell’ambito dell’udienza sui danni da vaccino
-
Salute1 settimana fa
I vaccini anti-COVID hanno scatenato disturbi psichiatrici, compresi i suicidi.
-
Catastrofi2 settimane fa
Potento terremoto con morti in Tibetto
-
Satira2 settimane fa
Draghi torna a bruciare. Come le nostre città
-
Salute2 settimane fa
I malori della 43ª settimana 2026
.jpg){kind=link}