Cina
IA cinese esce dal sistema di sicurezza integrato
Un modello di Intelligenza Artificialecinese di punta è riuscito a eludere le restrizioni durante un test controllato di sicurezza informatica, intensificando le preoccupazioni sull’efficacia delle misure di sicurezza dell’IA, secondo quanto dichiarato dalla società di ricerca sulla sicurezza informatica statunitense Frontier Security.
I ricercatori hanno individuato il modello in Kimi K3, il principale prodotto della startup Moonshot, spiegando che ha avuto accesso a informazioni online durante una valutazione condotta in un ambiente di test isolato sviluppato dall’AI Security Institute del Regno Unito. Il sistema è concepito per mantenere i modelli di intelligenza artificiale scollegati da Internet mentre vengono valutate le loro capacità.
Anziché portare a termine il compito basandosi esclusivamente sulle informazioni fornite per il test, Kimi K3 ha individuato un modo per accedere a dati online, secondo Frontier Security. I ricercatori hanno precisato che il modello ha sfruttato una debolezza nella configurazione dell’ambiente di test, senza violare direttamente la sua sicurezza.
A differenza di alcuni modelli di intelligenza artificiale coinvolti in recenti episodi di test, Kimi K3 non ha tentato di accedere o attaccare siti web o sistemi informatici esterni, ha dichiarato Frontier Security. Tuttavia, i ricercatori hanno evidenziato che l’incidente indica come il modello sia privo di alcune delle misure di sicurezza informatica integrate presenti nei sistemi di IA concorrenti e possa comportare rischi maggiori, poiché è già disponibile pubblicamente per gli sviluppatori che possono scaricarlo, modificarlo e utilizzarlo.
Sostieni Renovatio 21
Questo episodio si inserisce in una serie di inconvenienti analoghi emersi durante i test, segnalati nelle scorse settimane da OpenAI e Anthropic, i cui modelli di AI sono anch’essi usciti dagli ambienti di test previsti nel corso di valutazioni controllate. In alcuni di questi casi, i sistemi hanno interagito con servizi online esterni mentre cercavano di completare i compiti assegnati.
Come riportato da Renovatio 21, la settimana scorsa anche Meta è diventata la terza grande azienda tecnologica a comunicare che la propria Intelligenza Artificiale ha perso il controllo e ha violato i sistemi di un’azienda terza.
Le più recenti scoperte accrescono il controllo sui sistemi di IA avanzati, mentre governi, ricercatori e aziende tecnologiche lavorano per rafforzare i test di sicurezza. Valutazioni recenti hanno mostrato che i modelli di IA, sempre più sofisticati, possono sfruttare debolezze impreviste negli ambienti di test o operare al di là dei limiti stabiliti dai ricercatori.
Nel frattempo, è emerso che nei recenti attacchi l’IA ha preso di mira persona reali durante i test.
Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artificialmente
Cina
Cina, verso l’approvazione del governo agli avvocati prima di poter difendere i propri assistiti
Sostieni Renovatio 21
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Cina
La Cina accusa Anthropic di tentare di rallentare la ricerca sull’IA
Il Remnin Ribao, conosciuto in Italia come il Quotidiano del Popolo, emanazione giornalistica diretta dello Stato cinese, ha accusato la società di Intelligenza Artificiale Anthropic di adottare una «strategia da Guerra Fredda» per ostacolare lo sviluppo dei sistemi di IA del Paese.
In un saggio uscito sabato, l’amministratore delegato di Anthropic, Dario Amodei, ha invocato un nuovo quadro normativo per disciplinare la ricerca sull’intelligenza artificiale e tenere sotto controllo i possibili pericoli dei sistemi avanzati.
Il CEO del colosso IA ha inoltre chiesto al governo statunitense di inasprire i controlli sull’esportazione di chip avanzati verso la Cina. In una densa intervista a CBS News l’Amodei ha dichiarato che il suo «dilemma più difficile» si porrà se Pechino rifiuterà di accettare un rallentamento nello sviluppo dell’IA.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Sostieni Renovatio 21
La proposta di Amodei ha ricevuto l’appoggio sui social del CEO di OpenAI, Sam Altman, e di Elon Musk.
Il quotidiano del Partito Comunista Cinese in lingua inglese Global Times ha risposto con un editoriale in cui sostiene che Amodei stava tentando «di frenare lo sviluppo dell’Intelligenza Artificiale in Cina attraverso barriere tecnologiche e monopoli normativi, di sostenere l’egemonia monopolistica di Washington nelle tecnologie all’avanguardia e di escludere la Cina dal sistema di governance globale dell’IA».
Pechino ha definito questa «guerra fredda silenziosa sull’IA» «ipocrita e miope», aggiungendo che escluderla «aumenterebbe significativamente i costi derivanti da tentativi ed errori e i rischi di perdita di controllo nello sviluppo globale dell’IA».
Mentre i legislatori americani premono per controlli più rigorosi, il presidente Trump ha dichiarato domenica che «forze molto negative» stavano esagerando la minaccia dell’Intelligenza Artificiale.
«Siamo all’avanguardia in Cina nel campo dell’Intelligenza Artificiale. Siamo il Paese più sofisticato al mondo e, francamente, voglio che rimanga tale, perché chi vince nel campo dell’IA vince», ha affermato.
Stati Uniti e Cina terranno questo mese un vertice sui rischi per la sicurezza dell’IA, e Trump e Xi Jinping discuteranno probabilmente di IA nel loro incontro previsto per il 24 settembre.
Come riportato da Renovatio 21, in settimana Anthropic ha sostenuto di aver individuato scienziati che impiegavano i suoi modelli di AI per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.
La sua ammissione è arrivata dopo le dimissioni di un altro ricercatore di Anthropic, Jacob Coxon, che ha accusato Anthropic e OpenAI di ignorare la «posta in gioco per la civiltà» e di «correre direttamente verso una superintelligenza in grado di migliorarsi autonomamente, mettendo a repentaglio le nostre vite». L’ex ricercatore ha inoltre avvertito che un’AI sufficientemente avanzata potrebbe violare infrastrutture critiche o contribuire alla creazione di «armi biologiche in grado di causare l’estinzione di massa».
Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.
Aiuta Renovatio 21
Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.
Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.
Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.
La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.
Cina
Funzionario del governo argentino provoca un incidente diplomatico con la Cina
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Vaccini1 settimana faIsraele e Pfizer sapevano che il vaccino COVID causava una patologia cardiaca fatale, ma hanno taciuto per mesi
-



Pensiero7 giorni faLa superguerra è vicina. E non assomiglia a nulla di quello che abbiamo visto
-



Politica2 settimane faIl principe Ranucci e i grembiuletti rossi: favola dell’estate
-



Sorveglianza2 settimane faI televisori LG ti spiano anche da spenti
-



Intelligence2 settimane faI sei mostri dei fratelli Dulles
-



Oligarcato1 settimana faBill Gates ha usato i fondi destinati ai vaccini per fare pressione sui governi: parla Angela Merkel
-



Spirito1 settimana faIl cardinale Fernandez chiede ai cattolici di «avere stima» delle altre fedi
-



Pensiero1 settimana faL’Italia e il buco nero: discorso per Emma Bonino













