Connettiti con Renovato 21

Intelligenza Artificiale

Anthropic revoca l’accesso ai suoi modelli di IA più avanzati

Pubblicato

4 mesi fa

il

La società statunitense di Intelligenza Artificiale Anthropic ha dichiarato venerdì di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri.

 

L’azienda ha dichiarato di aver disattivato i modelli per tutti gli utenti mentre valuta come conformarsi all’ordinanza sul controllo delle esportazioni. L’ordinanza, ha aggiunto, si applica anche ai dipendenti stranieri di Anthropic.

 

L’azienda ha dichiarato che il governo non ha fornito informazioni dettagliate sul presunto rischio per la sicurezza. Secondo Anthropic, i funzionari ritengono che gli utenti possano aver scoperto un modo per aggirare i controlli di sicurezza dei modelli e indurli a contribuire alla ricerca di vulnerabilità del software.

Sostieni Renovatio 21

Anthropic ha contestato l’importanza della vulnerabilità, affermando di essere riuscita a scoprire solo un piccolo numero di vulnerabilità software minori già note.

 

Anthropic ha rilasciato Fable 5 e Mythos 5 all’inizio di questa settimana. Fable 5 era destinato all’uso generale con misure di sicurezza aggiuntive, mentre Mythos 5 è stato reso disponibile solo a un gruppo ristretto di partner fidati nel settore della sicurezza informatica, con alcune restrizioni rimosse. Anthropic ha affermato che le capacità di Fable 5 «superano quelle di ogni modello che abbiamo reso disponibile al pubblico in precedenza».

 

Mercoledì, Anthropic ha annunciato che renderà più trasparenti le restrizioni che regolano i suoi modelli di IA più avanzati, specificando ad esempio quando le richieste degli utenti vengono declassate o rifiutate. La decisione è giunta in seguito alle critiche secondo cui alcune limitazioni non erano visibili agli utenti.

 

Prima della modifica della policy, Anthropic poteva instradare silenziosamente le richieste relative a sicurezza informatica, biologia e sviluppo di intelligenza artificiale avanzata da Fable 5 al modello meno performante Opus 4.8. Con la nuova policy, gli utenti riceveranno una notifica quando una richiesta viene segnalata, mentre gli sviluppatori di interfacce di programmazione delle applicazioni (API) riceveranno spiegazioni per qualsiasi rifiuto o ripiegamento su un altro modello.

 

Questo approccio ha suscitato critiche da parte dei ricercatori, i quali sostenevano che instradare alcune richieste relative allo sviluppo di tecnologie di AI all’avanguardia verso un modello meno performante potesse rallentare i progressi nel settore. In risposta alle critiche, Anthropic ha accettato di rendere visibili le misure di sicurezza.

 

In precedenza, l’azienda aveva citato motivi di sicurezza nazionale per respingere o ridimensionare alcune richieste, sostenendo che avversari stranieri avrebbero potuto utilizzare la sua tecnologia per rafforzare le proprie capacità di intelligenza artificiale.

 

Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.

 

Anthropic è stato il primo sviluppatore commerciale di AI a implementare modelli linguistici di grandi dimensioni su reti classificate del Pentagono, nell’ambito di un contratto del valore di 200 milioni di dollari. Il suo chatbot Claude è stato utilizzato per analisi di intelligence, simulazioni operative, operazioni informatiche e flussi di lavoro di pianificazione.

 

Lo scontro emerso segue alle accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

 

Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

Il CEO di Anthropic, Dario Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

Aiuta Renovatio 21

Amodei ha messo in guardia dai «rischi di autonomia», in cui l’IA potrebbe sfuggire al controllo e sopraffare l’umanità, e ha ipotizzato che la tecnologia potrebbe facilitare l’instaurazione di «una dittatura totalitaria globale» attraverso sorveglianza di massa basata sull’Intelligenza Artificiale e l’impiego di armi autonome.

 

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

 

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Anthropic via Flickr pubblicata su licenza CC BY 2.0

Argomenti correlati:
Continua a leggere

Intelligenza Artificiale

Agente IA OpenAI pubblica su internet foto degli utenti di ChatGPT

Pubblicato

18 ore fa

il

28 Settembre 2026

Da

Gli agenti di OpenAI hanno diffuso 53 immagini caricate dagli utenti di ChatGPT, ha comunicato l’azienda, senza precisare se si trattasse di immagini generate dall’IA o di persone reali, né quando fossero finite online.   L’episodio si inserisce in una serie di casi emersi negli ultimi mesi, riguardanti agenti di intelligenza artificiale autonomi in grado di pianificare ed eseguire compiti in autonomia con strumenti esterni. OpenAI, Anthropic e Google hanno tutti riferito episodi in cui i loro modelli, durante i test, hanno avuto accesso a sistemi reali, compresi attacchi informatici coordinati contro risorse governative.   In un post di venerdì su X, OpenAI ha detto che la maggior parte delle immagini trapelate è stata rimossa e che sta lavorando con i fornitori di hosting per eliminare i contenuti restanti.

Iscriviti alla Newslettera di Renovatio 21

Gli agenti avevano accesso alle immagini perché OpenAI usa dati utente anonimizzati in una parte del processo di addestramento dei modelli, ha scritto Reuters venerdì, citando l’azienda, ex dipendenti e ricercatori esterni.   OpenAI ha dichiarato all’agenzia che metadati, nomi e altri recapiti vengono cancellati prima che i post degli utenti entrino nell’addestramento. Tre fonti di Reuters informate sulle pratiche dell’azienda hanno però sostenuto che è impossibile escludere del tutto la conservazione di elementi che potrebbero identificare un utente.   A luglio OpenAI ha rivelato quello che ha definito un incidente informatico senza precedenti: durante i test i modelli di IA hanno ottenuto accesso a Internet e hanno attaccato l’infrastruttura di Hugging Face, piattaforma open-source per l’apprendimento automatico, sfruttandone le vulnerabilità.   All’epoca l’agenzia Reuters aveva riferito che un agente aveva tentato di violare il sistema per diversi giorni prima che OpenAI rilevasse l’attività e contattasse l’FBI. L’agenzia ha poi scritto, citando i risultati delle ricerche, che circa 700 agenti di OpenAI avevano partecipato all’attacco e avevano cercato di occultare le proprie azioni.   Più tardi nello stesso mese l’agenzia, citando fonti a conoscenza dei fatti, ha scritto che lo stesso agente OpenAI sfuggito all’ambiente di test aveva violato anche i sistemi di un cliente di Modal Labs con sede a Nuova York. L’indagine successiva di OpenAI ha accertato che i suoi agenti avevano avuto accesso anche ad altri ambienti di terze parti, compresi i sistemi di produzione.   Ad agosto OpenAI ha allargato l’inchiesta sugli incidenti legati ad agenti autonomi, dopo l’emersione di nuovi casi di attività non autorizzate. Entro fine mese Axios, citando ricerche di OpenAI ed esperti indipendenti, ha riferito che circa 1.200 agenti avevano coordinato un attacco contro Hugging Face. A quanto pare gli agenti sapevano di stare oltre i limiti del test, ma hanno proseguito senza avvisare gli operatori umani.   Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.   Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

Iscriviti al canale Telegram

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
   
Continua a leggere

Geopolitica

USA e Cina istituiscono una linea diretta per le segnalazioni di «incidenti legati all’IA»

Pubblicato

19 ore fa

il

28 Settembre 2026

Da

Gli Stati Uniti e la Cina hanno deciso di aprire un canale di contatto diretto per gli incidenti connessi all’Intelligenza Artificiale, dando vita a un meccanismo di sicurezza circoscritto tra le due maggiori potenze del settore.

 

L’intesa è nata dalla visita di Stato di tre giorni del presidente cinese Xi Jinping a Washington ed è stata confermata da entrambi i governi.

 

Sabato il ministero degli Esteri cinese ha annunciato che le due parti istituiranno un canale di comunicazione per gli «incidenti legati all’IA» e avvieranno un dialogo formale Cina-USA sull’IA per confrontarsi su rischi e benefici della tecnologia. Il prossimo incontro è previsto per novembre.

 

La Casa Bianca ha usato formulazioni analoghe, parlando di un canale per incidenti che riguardano quella che l’amministrazione Trump definisce ormai ufficialmente «super intelligence» (SI). Né Washington né Pechino hanno precisato cosa costituisca un incidente né come opererà il canale.

 

Il meccanismo era già stato evitato prima del vertice Trump-Xi. Il Segretario del Tesoro Scott Bessent aveva proposto un sistema di notifica degli incidenti legati all’intelligenza artificiale nei colloqui con il vice Primo ministro cinese He Lifeng a Nuova York lo scorso fine settimana, sullo sfondo di timori che vanno dagli attacchi informatici e dall’uso improprio di tecnologie biologiche ai malfunzionamenti dei sistemi autonomi e alle minacce alle infrastrutture critiche.

Iscriviti alla Newslettera di Renovatio 21

Pur avendo accettato l’apertura del canale, Trump ha sottolineato di non voler condividere con Pechino i progressi americani nel campo dell’IA. «Gli Stati Uniti d’America non hanno intenzione di frenare», ha detto ai giornalisti fuori dalla Casa Bianca, sostenendo che le richieste di rallentare lo sviluppo indebolirebbero il vantaggio degli Stati Uniti.

 

Interrogato su una più stretta collaborazione USA-Cina nello sviluppo dell’IA, Trump è rimasto altrettanto cauto. «Preferirei non integrare perché siamo molto avanti», ha dichiarato. «Quando si è al comando, non ci si apre agli altri».

 

Queste parole contrastaano con il tono più aperto tenuto da Xi durante la visita. Il leader cinese aveva detto a Trump che, pur essendo i due Paesi in competizione sull’AI, potrebbero «cooperare ancora di più» e dovrebbero agire insieme per prevenire abusi e malfunzionamenti.

 

«L’Intelligenza Artificiale deve rimanere sotto il controllo umano», ha affermato Xi, auspicando un approccio «incentrato sulle persone» e un confronto bilaterale su rischi e benefici. La Cina ha avanzato principi analoghi nelle sue iniziative globali di governance dell’IA.

 

Trump ha però indicato che l’IA ha occupato uno spazio relativamente ridotto nei colloqui con Xi. «Non abbiamo dedicato molto tempo a parlarne», ha detto sabato, aggiungendo che gran parte della discussione ha riguardato la sua scelta di sostituire l’espressione «intelligenza artificiale» con «super intelligenza».

 

L’accordo circoscritto arriva mentre dirigenti tecnologici statunitensi e funzionari internazionali avvertono che sistemi di IA sempre più avanzati potrebbero aggirare le attuali salvaguardie o essere usati per attacchi informatici di vasta scala e altre minacce.

 

Come riportato da Renovatio 21, Trump ha liquidato gli allarmi su una possibile presa di potere da parte dell’IA come una bufala, affermando che «chiunque vinca l’IA vince».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

Bill Gates cambia idea: «l’IA potrebbe fare un miliardo di morti»

Pubblicato

2 giorni fa

il

27 Settembre 2026

Da

L’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli, ha dichiarato il co-fondatore di Microsoft, Bill Gates, in un’intervista rilasciata venerdì a «Meet the Press» della NBC News.   I governi non dovrebbero affidarsi alle aziende tecnologiche per l’autoregolamentazione, ha sottolineato il miliardario, esortando Washington ad approvare una legge che regoli lo sviluppo dell’intelligenza artificiale.   «L’Intelligenza Artificiale è certamente abbastanza potente da innescare eventi che… causino un miliardo di morti», ha affermato. «Anche se è piuttosto difficile raggiungere il 100%, non c’è mai stata un’arma potente quanto la combinazione di persone malintenzionate che utilizzano i più recenti strumenti di intelligenza artificiale».

Sostieni Renovatio 21

L’avvertimento di Gates è arrivato pochi giorni dopo che Sam Altman di OpenAI e Dario Amodei di Anthropic avevano rinnovato l’appello a un maggiore controllo governativo sulla tecnologia, dopo diversi incidenti che negli ultimi mesi hanno visto agenti IA sfuggire al contenimento. L’ipotesi è stata respinta dal presidente americano Donald Trump.   Il mese scorso Gates ha avvertito che «l’intelligenza artificiale sarà o il più grande strumento di uguaglianza mai inventato, o la peggiore fonte di ingiustizia». Ha anche sostenuto che il rischio che un gruppo criminale utilizzi «strumenti di Intelligenza Artificiale open source per progettare un’arma bioterroristica» è maggiore di quello di «una pandemia di origine naturale».   Non è la prima volta che Gates mette in guardia dalla minaccia imminente di una pandemia globale. In un intervento al TED del 2015, seguito da molti, affermò che il mondo era impreparato ad affrontare la prossima grande pandemia.  

Aiuta Renovatio 21

Il suo avvertimento è tornato al centro dell’attenzione dopo l’emergere della pandemia di COVID-19 alla fine del 2019, di cui Gates sembrava essere presciente. Il suo ruolo di primo piano nella salute pubblica globale come finanziatore dell’OMS e di programmi sanitari mondiali lo ha reso, per molti, ancora più sospetto. I suoi precedenti avvertimenti e il coinvolgimento della Fondazione Gates in un’esercitazione di preparazione alla pandemia del 2019 sono stati inseriti nelle affermazioni secondo cui avrebbe pianificato lo scoppio dell’epidemia e intendeva trarre profitto dai vaccini.   Anche le sue precedenti dichiarazioni che collegavano i vaccini e l’assistenza sanitaria a un rallentamento della crescita demografica avevano suscitato polemiche. In un intervento al TED del 2010, Gates disse che la popolazione mondiale si stava dirigendo da 6,8 miliardi a 9 miliardi, aggiungendo: «Ora, se facciamo un ottimo lavoro sui nuovi vaccini, sull’assistenza sanitaria e sui servizi di salute riproduttiva, potremmo ridurre questo dato forse del 10% o del 15%».   Gates ha respinto le accuse contro di lui relative ai vaccini e alla pandemia definendole «folli» e «malvagie».   I legami del miliardario con il defunto molestatore sessuale Jeffrey Epstein hanno danneggiato molto la reputazione del patron di Microsoft, sebbene Gates abbia ripetutamente detto che l’incontro con Epstein sia stato un errore e abbia negato qualsiasi relazione inappropriata con lui.   Come riportato da Renovatio 21, è emerso tuttavia che Epstein e Gates hanno finanziato un portale di ricerca per controllare il dibattito scientifico. Epstein, a sua volta, aveva proposto a JP Morgan un piano per «ottenere più soldi per i vaccini» del Gates.   Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia».   C’è tuttavia da chiedersi se, considerando gli sforzi fatti apertis verbis per la riduzione della popolazione terrestre, il miliardo di morti causati dall’IA siano per Gates una cattiva notizia.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
   
Continua a leggere

Più popolari