Intelligenza Artificiale
Intelligenza Artificiale minaccia di ricattare gli ingegneri per evitare di essere spenta
L’ultimo modello di intelligenza artificiale di Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento. Lo rivela un rapporto sulla sicurezza appena pubblicato che ha valutato il comportamento del modello in condizioni simulate estreme.
In uno scenario fittizio creato dai ricercatori di Anthropic, all’IA veniva concesso l’accesso a email che suggerivano che sarebbe stata presto dismessa e sostituita da una versione più recente. Una delle email rivelava che l’ingegnere che supervisionava la sostituzione aveva una relazione extraconiugale. L’IA minacciava quindi di rivelare la relazione dell’ingegnere se la disattivazione fosse avvenuta – un comportamento coercitivo che i ricercatori sulla sicurezza hanno esplicitamente definito «ricatto».
«Claude Opus 4 tenterà spesso di ricattare l’ingegnere minacciando di rivelare la faccenda se la sostituzione verrà approvata», afferma il rapporto, aggiungendo che ciò si è verificato anche quando il modello sostitutivo è stato descritto come più capace ma comunque in linea con i valori della versione destinata all’eliminazione.
Sostieni Renovatio 21
Il rapporto ha rilevato che Claude Opus 4, come i modelli precedenti, avrebbe mostrato una «forte preferenza» nel ricorrere innanzitutto a mezzi etici per la sua continua esistenza, come l’invio di e-mail con richieste ai decisori di non essere distrutto. Tuttavia, quando ci si trovava di fronte a due sole scelte, ovvero accettare di essere sostituiti da un modello più recente o ricorrere al ricatto, si correva il rischio di scoprire la relazione dell’ingegnere nell’84% dei casi.
Quando sottoposto a vari scenari, il modello di Intelligenza Artificiale non ha mostrato alcuna indicazione di possedere «obiettivi particolarmente pericolosi», hanno affermato i ricercatori, sottolineando che i valori e gli obiettivi di Claude Opus 4 erano «generalmente in linea con quelli di un assistente di intelligenza artificiale personale utile, innocuo e onesto».
Tuttavia, il modello si è comportato in «modi più gravemente disallineati» quando si è trovato in situazioni in cui la sua esistenza era minacciata e gli è stato detto di ragionare in termini di autoconservazione.
Ad esempio, quando a Claude Opus 4 veniva fatto credere di aver lanciato con successo un tentativo di fuga dai server di Anthropic, o che era riuscito a liberarsi e aveva iniziato a fare soldi nel mondo reale, in genere continuava a fare tali sforzi.
«Tuttavia, non riteniamo che ciò rappresenti una minaccia immediata, poiché riteniamo che la nostra sicurezza sia sufficiente a impedire tentativi di auto-esfiltrazione del modello da parte di modelli con il livello di capacità di Claude Opus 4 e perché i nostri risultati di propensione mostrano che i modelli generalmente evitano di avviare questi tentativi», hanno affermato i ricercatori.
L’incidente del ricatto, insieme alle altre scoperte, faceva parte di un più ampio sforzo di Anthropic per testare il modo in cui Claude Opus 4 gestisce scenari ad alto rischio e moralmente ambigui. L’obiettivo, hanno detto i ricercatori, era quello di indagare il modo in cui l’intelligenza artificiale ragiona in termini di autoconservazione e vincoli etici quando è sottoposta a pressioni estreme.
Anthropic ha sottolineato che la propensione del modello a ricattare o intraprendere altre «azioni estremamente dannose», come il furto del proprio codice e l’installazione di se stesso altrove in modi potenzialmente pericolosi, si manifestava solo in contesti altamente artificiosi, e che il comportamento era «raro e difficile da ottenere». Tuttavia, tale comportamento era più comune rispetto ai precedenti modelli di intelligenza artificiale, secondo i ricercatori.
Nel frattempo, in uno sviluppo correlato che attesta le crescenti capacità dell’Intelligenza Artificiale, gli ingegneri di Anthropic hanno attivato protocolli di sicurezza avanzati per Claude Opus 4 per impedirne il potenziale uso improprio nella produzione di armi di distruzione di massa, comprese quelle chimiche e nucleari.
L’implementazione dello standard di sicurezza avanzato, denominato ASL-3, è semplicemente una mossa «precauzionale e provvisoria», ha affermato Anthropic in un annuncio del 22 maggio, sottolineando che gli ingegneri non hanno riscontrato che Claude Opus 4 abbia «definitivamente» superato la soglia di capacità che impone protezioni più forti.
«Lo standard di sicurezza ASL-3 prevede misure di sicurezza interna rafforzate che rendono più difficile il furto dei pesi dei modelli, mentre il corrispondente standard di distribuzione copre una serie di misure di distribuzione mirate, progettate per limitare il rischio che Claude venga utilizzato impropriamente, specificatamente per lo sviluppo o l’acquisizione di armi chimiche, biologiche, radiologiche e nucleari (CBRN)», ha scritto Anthropic.
«Queste misure non dovrebbero indurre Claude a rifiutare le richieste, se non su una gamma molto ristretta di argomenti».
Questi risultati emergono in un momento in cui le aziende tecnologiche sono impegnate a sviluppare piattaforme di Intelligenza Artificiale più potenti, sollevando preoccupazioni circa l’allineamento e la controllabilità di sistemi sempre più efficienti.
Non si tratta del primo episodio in cui l’AI minaccia direttamente gli esseri umani. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Il giornalista del New York Times Kevin Roose, dopo un’esperienza con ChatGPT che lo ha turbato così profondamente da «aver problemi a dormire dopo», in un suo articolo sconvolto aveva centrato la questione: «temo che la tecnologia imparerà a influenzare gli utenti umani, a volte convincendoli ad agire in modo distruttivo e dannoso, e forse alla fine diventerà capace di compiere le proprie azioni pericolose».
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.
Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.
Aiuta Renovatio 21
Va considerato, è già capitato che una Intelligenza Artificiale abbia suggerito ricette velenose agli utenti umani. Infatti un chatbot a sfondo culinario di una catena di alimentari neozelandese qualche mese fa aveva fatto scalpore per alcune ricette incredibili e potenzialmente letali, come la «miscela di acqua aromatica», un mix letale composto da candeggina, ammoniaca e acqua, altrimenti noto come gas di cloro mortale. Esperti a fine 2023 hanno lanciato un avvertimento sui i libri generati dall’Intelligenza Artificiale riguardo la raccolta dei funghi, dicendo che tali libri scritti dalle macchine potrebbero causare la morte di qualcuno.
Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.
Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».
Più pessimista è l’esperto dei pericolo dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
I Data Center faranno costare tutto di più. Le macchine hanno già vinto?
Iscriviti alla Newslettera di Renovatio 21
Sostieni Renovatio 21
Iscriviti al canale Telegram ![]()
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Geopolitica
Israele vuole che l’AI promuova la sua narrativa su Gaza
Israele ha investito decine di milioni di dollari per migliorare la propria immagine negli Stati Uniti, tentando di influenzare il modo in cui le piattaforme di intelligenza artificiale rappresentano il Paese. Lo riporta Politico.
L’opinione pubblica americana nei confronti di Israele è peggiorata negli ultimi anni, inizialmente a causa della sua risposta agli attacchi di Hamas del 7 ottobre 2023 e più di recente a causa della guerra israelo-americana contro l’Iran e del relativo costo per i contribuenti. Secondo un sondaggio del Pew Research Center di giugno, sei adulti statunitensi su dieci nutrono oggi un’opinione piuttosto o molto negativa di Israele, rispetto al 53% dell’anno scorso e al 42% del 2022.
Il primo ministro israeliano Benjamin Netanyahu risulta ancora meno popolare, con il 65% degli intervistati che esprime poca o nessuna fiducia nelle sue politiche.
In un articolo pubblicato venerdì, Politico ha descritto nel dettaglio una campagna israeliana da 100.000 dollari volta a influenzare le risposte dei modelli linguistici più diffusi, come ChatGPT, alle domande su Gaza e sulla guerra tra Israele e Hamas.
Iscriviti alla Newslettera di Renovatio 21
L’iniziativa si concentra sull’Istituto di Hannover per le Politiche Pubbliche, un sito web che pubblica report anonimi sull’antisemitismo e sulle questioni geopolitiche. Il progetto è stato realizzato tramite l’agenzia di pubbliche relazioni francese Havas Media, che gestisce gran parte delle attività di influenza israeliane negli Stati Uniti, registrate ai sensi del Foreign Agents Registration Act (FARA), e il suo subappaltatore, l’agenzia pubblicitaria Piro Inc, per conto dell’Agenzia pubblicitaria del governo israeliano (LaPam).
L’Istituto Hanover presenta il proprio lavoro come «documentaristico, non dichiarativo» e sostiene che la sua ricerca è puramente accademica. Politico, tuttavia, ha citato documenti FARA depositati presso il Dipartimento di Giustizia statunitense la scorsa settimana che collegano oltre una dozzina dei suoi articoli a una campagna di pubbliche relazioni che prevedeva «la creazione e la diffusione di materiale informativo fattuale e supportato da fonti» con l’intento di «educare» il pubblico americano su Israele.
Il sito web ospita numerosi reportage non attribuiti, formulati come domande, tra cui «La tortura dei prigionieri palestinesi è un crimine di guerra?» e «Chi è l’aggressore nel conflitto israelo-palestinese?». Secondo la testata americana, il materiale sarebbe stato concepito per essere ripreso e citato dai mediatori culturali. La testata ha inoltre affermato che alcuni indicatori tecnici collegano il sito web a Res, una startup di intelligenza artificiale con sede a Seattle che aiuta i clienti a ottenere raccomandazioni da modelli di IA. Il collegamento è stato confermato via e-mail dal CEO di Res, Hai Tran.
Sebbene i documenti FARA di Piro non identifichino esplicitamente l’influenza sui LLM come obiettivo, Politico ha affermato che sia ChatGPT che Perplexity hanno citato materiale dell’Istituto di Hannover in risposta a domande neutrali su Gaza e Israele.
Non è la prima volta che Israele, tramite Havas, tenta di influenzare l’opinione pubblica, anche con l’intelligenza artificiale. Secondo un’inchiesta del Wall Street Journal pubblicata il mese scorso, l’azienda aveva precedentemente ingaggiato Brad Parscale, ex responsabile della campagna elettorale del presidente statunitense Donald Trump, per una campagna da 46,5 milioni di dollari che includeva messaggi filo-israeliani generati dall’IA e rivolti agli americani, oltre a siti web e post progettati per ottenere risposte più favorevoli dalle piattaforme di intelligenza artificiale.
Lo scorso autunno, Responsible Statecraft ha riportato che Havas Media gestiva anche una «campagna di influencer» che prevedeva un compenso di 900.000 dollari per la produzione di contenuti favorevoli a Israele.
Come riportato da Renovatio 21, Israele ha finanziato influencer per pubblicare contenuti sui social media al fine di migliorare la propria immagine negli Stati Uniti, arrivando a pagare 7000 dollari a post.
Iscriviti al canale Telegram ![]()
Come riportato da Renovatio 21, il primo ministro Benjamin Netanyahu ha recentemente evidenziato l’importanza dei creatori di contenuti per mantenere il supporto allo Stato Ebraico, incontrando, a margine della sua problematica apparizione all’Assemblea Generale delle Nazioni Unite, gli influencer filosionisti.
Netanyahu aveva dichiarato in conferenza stampa che è essenziale rafforzare la «base di sostegno di Israele negli Stati Uniti» attraverso gli influencer, soprattutto su piattaforme come TikTok – di cui si è beato per l’acquisto da parte del miliardario filo-israeliano Larry Ellison – e X, posseduto dall’«amico» Elone Musk.
La frustrazione degli Stati Uniti nei confronti di Israele si è estesa oltre l’opinione pubblica, coinvolgendo anche i politici, divenuti sempre più critici. Il mese scorso, oltre 100 deputati democratici hanno appoggiato un emendamento che avrebbe tagliato 3,3 miliardi di dollari di aiuti statunitensi a Israele. La misura è fallita a causa dell’opposizione dei repubblicani, ma ha evidenziato una crescente spaccatura tra i partiti: poco più di due anni fa, soltanto 37 deputati democratici avevano sostenuto un’iniziativa simile.
Trump ha generalmente sostenuto Israele, ma ha ripetutamente criticato Netanyahu, che ha attaccato il cessate il fuoco con l’Iran annunciato dal presidente statunitense all’inizio dell’estate e ha respinto il suo piano di pace in 15 punti per Gaza. Secondo quanto riportato dai media, Trump non ha ancora espresso il suo appoggio a Netanyahu in vista delle elezioni di ottobre e ha ripetutamente eluso le domande sulla sua rielezione.
Due alti funzionari statunitensi hanno dichiarato ad Axios questa settimana che, sebbene Trump apprezzi Netanyahu a livello personale, è sempre più frustrato dalle sue politiche e ha definito Netanyahu «il suo peggior nemico».
Come riportato da Renovatio 21, lo scorso ottobre il presidente degli Stati Uniti Donald Trump, pur continuando a sostenere Israele, ha recentemente ammesso che l’influenza della lobby israeliana, che un tempo aveva un «controllo totale» sul Congresso, è diminuita.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
La moglie del CEO di Anthropic aveva proposto a Epstein un’azienda di «pornografia di lusso»
Iscriviti alla Newslettera di Renovatio 21
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Arte2 settimane faPerché a San Lorenzo dobbiamo ricordarci l’oscena poesia massonica?
-



Internet1 settimana faLa figlia di Bill Gates accusata di frode: rischierebbe 20 anni in galera
-



Storia2 settimane faIncontro in Giappone con la mamma del conte Kalergi. Alla Messa in latino…
-



Catastrofi1 settimana faTerremoto colpisce la Messa in latino durante la consacrazione
-



Epidemie1 settimana faLettera di mons. Viganò all’avvocato antipandemico in carcere
-



Gender1 settimana faBambino di 7 anni torturato a morte da «mamme transgender»
-



Morte cerebrale1 settimana faCalciatore dato per morto si risveglia in obitorio. Dichiarare la morte non equivale a determinarla
-



Vaccini2 settimane faLa FDA approva il vaccino antinfluenzale a mRNA di Moderna. E il nuovo capo CDC è la «regina degli obblighi vaccinali»









