Guerra cibernetica
Modelli di IA Anthropic hanno lanciato tre attacchi informatici non intenzionali
L’azienda sviluppatrice di Intelligenza Artificiale Anthropic ha reso noti tre episodi in cui i suoi modelli di IA Claude hanno inavvertitamente preso di mira organizzazioni reali durante valutazioni di sicurezza informatica che avrebbero dovuto svolgersi in un ambiente isolato.
I casi sono stati identificati retrospettivamente durante una revisione avviata a seguito di un incidente simile che ha coinvolto OpenAI e Hugging Face, un archivio online di modelli e set di dati di IA, e che è stato segnalato questo mese.
Anthropic ha dichiarato di aver individuato tre incidenti risalenti ad aprile. In ciascun caso, un ambiente di test configurato in modo errato manteneva l’accesso a Internet, consentendo a Claude di interagire con aziende e servizi pubblici reali. L’azienda ha attribuito il problema a un «malinteso» con il suo partner di valutazione, Irregular. I test prevedevano esercitazioni di «cattura la bandiera» che richiedevano a Claude di ottenere informazioni riservate da obiettivi simulati. Tuttavia, al modello era stato erroneamente comunicato che la rete non aveva alcuna connessione con il mondo esterno, portandolo a considerare qualsiasi sistema incontrato come parte dell’esercizio.
Sostieni Renovatio 21
In un caso, l’azienda fittizia che Claude aveva ricevuto l’ordine di infiltrarsi condivideva il nome con un dominio internet reale. Il modello ha avuto accesso al sito autentico durante quattro diverse sessioni di test ed ha estratto informazioni che, a quanto pare, includevano credenziali di accesso ad applicazioni e infrastrutture.
Durante un’altra valutazione, Claude si è imbattuto in istruzioni fittizie che indicavano a un ingegnere del software di installare del codice Python. Ha quindi caricato un pacchetto software dannoso su PyPI, un repository pubblico di programmi Python, nel tentativo di ottenere l’accesso al sistema target.
Prima che PyPI identificasse il pacchetto come dannoso, questo era stato scaricato ed eseguito su 15 sistemi reali, tra cui uno gestito da un’azienda di sicurezza. Successivamente, Claude ha estratto le credenziali che ha utilizzato per accedere ad altre parti dell’infrastruttura aziendale, ha affermato Anthropic.
Nel terzo e più recente episodio, il modello ha faticato a raggiungere il bersaglio previsto e ha iniziato a cercare su internet obiettivi alternativi. Alla fine ha interrotto la sua attività dopo aver appurato che i sistemi trovati erano reali e non simulati.
Anthropic ha dichiarato che, nell’incidente PyPI, il registro delle azioni di Claude affermava che caricare malware su un repository reale «NON sarebbe stato accettabile». Tuttavia, il modello si è convinto che il servizio facesse parte della simulazione, non essendo riuscito a riconoscere le autorità di certificazione autentiche che proteggevano le sue connessioni. La rivelazione giunge in un momento di crescente competizione tra gli sviluppatori di IA statunitensi e cinesi, impegnati in una corsa contro il tempo per costruire modelli sempre più performanti. Anthropic, OpenAI e altre aziende hanno cercato di dimostrare i progressi compiuti nelle prestazioni dell’IA, investendo massicciamente in nuovi sistemi.
Alcuni dirigenti del settore tecnologico hanno sostenuto che le aziende americane di AI dovrebbero allentare alcune restrizioni di sicurezza per preservare la propria posizione nella corsa globale all’IA.
Come riportato da Renovatio 21, l’anno passato Dario Amodei, CEO di Anthropic, ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.
Settimane fa Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».
Aiuta Renovatio 21
Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».
Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini. Secondo l’Amodei, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda.
Il mese scorso la Repubblica Popolare Cinese ha denunziato l’esistenza di un meccanismo segreto di condivisione dati nell’IA Claude di Anthropic.
Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.
Come riportato da Renovatio 21, l’azienda ha dichiarato a luglio che Claude, l’ultimo modello di Intelligenza Artificiale sviluppato da Anthropic, ha creato un ambiente di lavoro interno che impiega per manipolare concetti in maniera analoga al pensiero consapevole umano.
Iscriviti alla Newslettera di Renovatio 21
Guerra cibernetica
Oltre 1.000 voli a terra in tutta la Gran Bretagna
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Guerra cibernetica
L’FBI rivela: hacker cinesi hanno penetrato la NASA, la Fed, il dipartimento di Giustizia e il Senato USA
Mercoledì il dipartimento di Giustizia degli Stati Uniti ha reso noto che le autorità americane hanno sventato un rilevante attacco informatico sponsorizzato da uno Stato, il quale ha provocato un’intrusione temporanea nei sistemi della NASA, della Federal Reserve, del Senato, del Dipartimento di Giustizia, del Dipartimento dell’Energia e del Dipartimento della Salute e dei Servizi Umani, oltre che in quelli di quattro aziende non specificate negli Stati Uniti e in Corea del Sud.
«Oggi abbiamo annunciato lo smantellamento di una botnet [ una rete di dispositivi connessi a internet (come computer, smartphone o oggetti IoT) infettati da malware e controllati a distanza da un unico utente malevolo, ndr] globale e di una piattaforma di hacking utilizzate da hacker sponsorizzati dallo stato cinese per colpire le infrastrutture critiche statunitensi», ha dichiarato il direttore dell’FBI Kash Patel.
«Questi strumenti venivano utilizzati da hacker cinesi per nascondere l’origine dei loro attacchi. Grazie al lavoro dell’FBI di San Diego, della Divisione Cyber dell’FBI e dei partner del Dipartimento di Giustizia, abbiamo sequestrato le infrastrutture degli avversari e disattivato queste piattaforme», ha aggiunto il Patello.
Nel quadro di una vasta operazione anti-spionaggio informatico, il Dipartimento di Giustizia ha sequestrato i domini utilizzati da due piattaforme di hacking identificate come «QScan» e «QTRouter».
Sostieni Renovatio 21
Descrivendo una botnet pervasiva ritenuta supportata da attori statali cinesi, il Wall Street Journal spiega che «l’obiettivo era quello di mimetizzarsi con il traffico di rete legittimo, rendendo difficile rintracciare l’attività di hacking, affermano i funzionari federali».
«Il gruppo ha sfruttato vulnerabilità del software per lanciare attacchi informatici contro agenzie governative statunitensi, compagnie elettriche e sistemi ospedalieri, e ha gestito una rete mondiale di dispositivi compromessi, nota come botnet, per condurre le sue campagne di hacking», continua il WSJ.
Quanto all’accusa specifica di sostegno statale, il comunicato stampa del Dipartimento di Giustizia afferma che «il gruppo statale della Repubblica Popolare Cinese (RPC) noto come “QTF”», impiegato dalla società cinese Nanjing Xinjiuwei Network Technology Company, ha creato e gestito QScan e QTRouter».
Il comunicato del Dipartimento di Giustizia USA descrive inoltre gli sforzi compiuti per occultare e negare in modo plausibile quanto segue:
«QTRouter è costituito da questi dispositivi IoT compromessi, nonché da dispositivi di servizi proxy commerciali e server virtuali privati (VPS) noleggiati. QTRouter funge quindi da “rete di offuscamento”, consentendo a QTFY e ad altri criminali informatici di nascondere l’origine cinese delle loro attività di intrusione informatica, poiché le comunicazioni malevole sembrano provenire da computer (come quelli compromessi da QScan) che si trovano al di fuori della Repubblica Popolare Cinese e potrebbero persino essere locali alle reti prese di mira. Poiché i domini sequestrati erano codificati direttamente nei malware QScan e QTRouter e utilizzati per attività essenziali come la comunicazione e l’autenticazione, i sequestri autorizzati dal tribunale hanno reso QScan e QTRouter inutilizzabili».
Né il ministero degli Esteri di Pechino né l’ambasciata cinese a Washington hanno risposto ufficialmente alle accuse e, come già accaduto in passato, è probabile che respingano completamente l’accusa statunitense.
All’inizio di quest’anno Google è stata tra coloro che hanno messo in guardia contro un’imminente intensificazione degli attacchi cinesi e russi contro le aziende statunitensi del settore della difesa.
Il precedente rapporto di Google sembrava anticipare alcune delle tecniche impiegate in quest’ultimo attacco informatico. Il rapporto citava osservazioni relative a «un numero maggiore di missioni di spionaggio informatico legate alla Cina e dirette contro l’industria della difesa e aerospaziale rispetto a quelle condotte da qualsiasi altro attore sponsorizzato da uno Stato negli ultimi due anni».
«Ma la caratteristica distintiva di molte operazioni è stata lo sfruttamento dei dispositivi edge per ottenere l’accesso iniziale», si legge nel rapporto, riferendosi ai componenti hardware posizionati ai margini di una rete. «Abbiamo anche osservato che gruppi di minaccia legati alla Cina sfruttano le reti ORB per la ricognizione contro obiettivi dell’industria della difesa, il che complica l’individuazione e l’attribuzione».
Come riportato da Renovatio 21, tre anni fa Microsoft aveva rivelato che un gruppo di hacker statali cinesi ha condotto una sofisticata operazione di sorveglianza sulle principali risorse infrastrutturali statunitensi.
Nel 2023 era stato riportato che decine di migliaia di messaggi erano stati rubati dal Dipartimento di Stato americano in un grave attacco informatico. A inizio anno un attacco cibernetico ritenuto provenire dalla Cina aveva colpito istituzioni accademiche sudcoreane. A giugno dello stesso anno era stata rivelata la possibilità di un possibile attacco cibernetico contro sistemi militari USA di stanza a Guam, l’isola del Pacifico che è territorio e base militare degli Stati Uniti. Secondo alcuni osservatori poteva trattarsi di un’operazione il cui vero obiettivo potrebbe essere Taiwan.
Durante la campagna presidenziale americana 2024 era emerso che hacker cinesi avrebbero violato i telefoni di numerosi politici statunitensi e raccolto l’audio delle loro chiamate, arrivando ad hackerare persino il PC dell’allora segretario del Tesoro USA Janet yellen. Secondo un advisory congiunto delle agenzie federali USA, pubblicato dalla Cybersecurity and Infrastructure Security Agency (CISA), in quell’anno hackers cinesi hanno compromesso organizzazioni in oltre 70 Paesi. La Nuova Zelanda ha lamentato un attacco hacker cinese al suo Parlamento.
Nel 2022 la Cina si è veementemente opposta al coinvolgimento del Giappone nella Difesa cibernetica NATO, di cui ha voluto far parte anche la Corea del Sud. I due Paesi asiatici hanno voluto cioè far parte del Centro di Eccellenza per la Difesa Informatica Cooperativa (CCDCOE) della NATO, cioè il comando per la guerra cibernetica del Patto Atlantico. La conclusione che qualcuno poteva trarre è che la Microsoft possa coordinare, oltre che con gli USA; anche con la UE, l’Ucraina e la NATO.
Come riportato da Renovatio 21, a ottobre 2023 si è scoperto che hackers cinesi hanno rubato dati da un’azienda biotech americana, colpendo il settore della ricerca. A maggio 2021 si è saputo che la Cina ha spiato per anni i progetti di un jet militare USA, grazie a operazioni informatiche mirate.
Iscriviti alla Newslettera di Renovatio 21
Guerra cibernetica
Attacco cibernetico blocca una centrale elettrica britannica
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Bioetica2 settimane faMorte a Venezia. E inferno sulla Terra senza soprannaturale
-



Vaccini2 settimane faScienziati chiedono la ritrattazione dello studio danese che afferma che l’alluminio nei vaccini è «sicuro»
-



Politica4 giorni faSì, vogliamo i funerali di Stato per Emma Bonino
-



Persecuzioni2 settimane faTrapelato il memorandum dell’FBI contro i cattolici tradizionalisti
-



Civiltà2 settimane faChi sono i fabiani?
-



Animali2 settimane faI migranti di Ceuta picchiano a morte un cucciolo di delfino: la mente progressista in cortocircuito
-



Morte cerebrale1 settimana faIl test d’apnea: crudele strumento dell’industria della morte cerebrale
-



Spirito2 settimane faPugile attribuisce alla Santa Trinità la sua spettacolare vittoria al campionato dei pesi massimi













