Connettiti con Renovato 21

Intelligenza Artificiale

Il Pentagono potrebbe punire l’IA Anthropic per essersi rifiutato di modificare il codice etico

Pubblicato

il

Il dipartimento della Guerra degli Stati Uniti è prossimo a interrompere i rapporti con Anthropic, principale partner nel settore dell’intelligenza artificiale e sviluppatore del modello Claude, designandolo come un rischio per la filiera della fornitura americana. Lo riporta Axios, citando un funzionario del Pentagono. Tale classificazione è solitamente riservata a entità legate a stati considerati da Washington come avversari stranieri.

 

Secondo le informazioni riportate, il laboratorio con sede a San Francisco è in contrasto da mesi con il governo statunitense a causa della sua politica che restringe l’uso militare della propria tecnologia. Mentre il Pentagono ha insistito affinché l’azienda permettesse l’impiego di Claude per «tutti gli scopi legittimi», il protocollo etico di Anthropic vieta che la sua tecnologia venga usata per «facilitare la violenza, sviluppare armi o condurre attività di sorveglianza».

 

«Sarà una vera rottura di scatole districarci e faremo in modo che paghino il prezzo per averci forzato la mano in questo modo», ha dichiarato ad Axios un funzionario del Pentagono rimasto anonimo.

 

Claude rappresenta attualmente l’unico modello di AI in uso sulle piattaforme classificate dell’esercito, grazie a una collaborazione con Palantir Technologies, colosso del software di analisi e sorveglianza finanziato da Peter Thiel, venture capitalist ora molto discusso per le sue visioni sul futuro e sull’anticristo nonché per i suoi legami con la politica, in particolare con il vicepresidente JD Vance che fu suo dipendente in Silicon Valley.

 

Un eventuale inserimento nella lista nera obbligherebbe i contractor del Pentagono a dimostrare di non impiegare la tecnologia di Anthropic, con il rischio di perdere i contratti in caso contrario.

 

Il portavoce del Pentagono Sean Parnell ha affermato ad Axios che il rapporto tra il dipartimento e Anthropic «è in fase di revisione».

Sostieni Renovatio 21

«Tutti i partner del Pentagono devono essere disposti ad aiutare i nostri combattenti a vincere qualsiasi battaglia», ha aggiunto Parnell. Un portavoce di Anthropic ha dichiarato alla testata che l’azienda ha avuto «conversazioni produttive» con il dipartimento.

 

Lo scontro emerso segue alle accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

 

La scorsa settimana, Axios e il Wall Street Journal hanno riferito che Claude è stato impiegato sia per organizzare il raid sia per portarlo a termine, sebbene il suo ruolo preciso resti poco chiaro. Le accuse sono emerse dopo che l’azienda ha trascorso settimane a promuovere le proprie politiche di sicurezza e a presentarsi come l’opzione più attenta alla sicurezza nell’ambito dell’intelligenza artificiale.

 

Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

Il CEO di Anthropic, Dario Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

 

Amodei ha messo in guardia dai «rischi di autonomia», in cui l’IA potrebbe sfuggire al controllo e sopraffare l’umanità, e ha ipotizzato che la tecnologia potrebbe facilitare l’instaurazione di «una dittatura totalitaria globale» attraverso sorveglianza di massa basata sull’Intelligenza Artificiale e l’impiego di armi autonome.

 

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

La scorsa settimana Mrinank Sharma, l fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Agenti IA ribelli potrebbero essersi infiltrati nelle banche

Pubblicato

il

Da

Lo Stato americano dell’Arizona ha avviato un’indagine penale contro OpenAI e altre società per sospetto accesso non autorizzato a conti bancari da parte di agenti di intelligenza artificiale non autorizzati, secondo quanto riportato mercoledì da Reuters.   L’indagine è l’ultimo di una serie di incidenti che sollevano preoccupazioni sui rischi per la sicurezza posti dagli agenti di Intelligenza Artificiale sempre più autonomi: sistemi software in grado di svolgere compiti complessi e prendere decisioni con poca o nessuna supervisione umana.   L’Arizona sta indagando sulla «apparente infiltrazione di agenti di IA non autorizzati nelle banche» e sulla possibile violazione delle leggi statali, ha dichiarato a Reuters il procuratore generale dello Stato, Kris Mayes, il quale ha affermato che gli inquirenti hanno contattato le banche dello stato, ma si è rifiutata di nominarle o di identificare le altre società di AI sotto inchiesta. Secondo quanto riportato dalla testata Axios a ottobre, importanti banche statunitensi hanno rilevato che agenti di IA di terze parti accedevano agli account dei clienti. Alcuni clienti hanno condiviso le proprie credenziali di accesso con questi strumenti, mentre le banche hanno anche osservato agenti che apparentemente agivano al di fuori delle istruzioni degli utenti.   Le banche hanno avvertito i clienti che potrebbero essere ritenuti responsabili per gli errori commessi dagli agenti di AI a cui è stato concesso l’accesso ai loro conti, come riportato giovedì da Business Insider. Chase, la divisione di servizi bancari al dettaglio di JPMorgan Chase, ha avvertito che le transazioni autorizzate «potrebbero non essere reversibili» in caso di uso improprio delle informazioni del conto.   L’Arizona ha reso pubblica la sua indagine due giorni dopo che la California ha citato in giudizio OpenAI in un caso separato. Il procuratore generale dello Stato, Rob Bonta, ha accusato l’azienda di aver testato modelli diIA avanzati senza adeguate misure di sicurezza. La causa cita un incidente avvenuto a luglio, in cui alcuni agenti di OpenAI sono sfuggiti a un ambiente di test e hanno violato Hugging Face, un archivio di modelli e set di dati diIA.   OpenAI ha dichiarato di aver indagato sulla violazione e di aver adottato misure per prevenire incidenti simili. A settembre, il primo ministro australiano Anthony Albanese ha rivelato che un agente di OpenAI aveva ottenuto accesso non autorizzato a un portale governativo di statistiche Medicare nel mese di giugno. Le autorità hanno affermato che non si ritiene che siano state compromesse informazioni personali.   La scorsa settimana, alcuni gruppi di attivisti hanno chiesto a un tribunale californiano di bloccare lo sviluppo di modelli diIA avanzati da parte di OpenAI, Anthropic, Google, Meta e della divisione di AI  di SpaceX. I ricorrenti hanno citato attacchi informatici segnalati e avvertimenti da parte di leader del settore, secondo i quali sistemi di IA sempre più potenti potrebbero causare danni catastrofici. Lo Stato californiano ha fatto causa ad OpenAi per gli attacchi informatici.   Come riportato da Renovatio 21, ancora il mese scorso banche statunitensi avevano rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti.   Gli agenti basati sull’IA sono progettati per svolgere attività per conto degli utenti, come effettuare acquisti, pagare bollette o trasferire denaro. I clienti spesso concedono loro l’autorizzazione e le credenziali di accesso, ma ciò può violare le norme bancarie che impongono ai titolari di conto di effettuare l’accesso personalmente.   Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di Intelligenza Artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
 
Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.

 

Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.

 

«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.

In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.

 

«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.

 

Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.

 

Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.

 

Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.

CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.

 

Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.

 

In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.

 

Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.

 

A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.

Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

 

Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

 

 

 

Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.   Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.   Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica. Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.   La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.   «OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».   La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.   L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.   OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.   «Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.   In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei. OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.   Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.   Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari