Connettiti con Renovato 21

Intelligenza Artificiale

La Germania cerca di reinventare la guerra con gli scarafaggi spia

Pubblicato

il


La Germania sta investendo massicciamente in tecnologie belliche futuristiche, tra cui scarafaggi di sorveglianza e robot dotati di Intelligenza Artificiale, nell’ambito di un vasto piano di riarmo. Lo riporta l’agenzia Reuters.

 

Il quotidiano ha parlato con una ventina di dirigenti, investitori e politici per esaminare in che modo la più grande economia dell’UE intenda svolgere un ruolo centrale nel riarmo del continente.

 

Il cancelliere Federico Merz ha recentemente annunciato l’intenzione di aumentare il bilancio militare complessivo della Germania a 153 miliardi di euro (180 miliardi di dollari) entro il 2029, rispetto agli 86 miliardi di euro di quest’anno. Si è impegnato a destinare il 3,5% del PIL alla difesa nell’ambito di un nuovo quadro NATO per contrastare quella che ha definito una minaccia diretta da parte della Russia.

 

Il presidente russo Vladimir Putin ha liquidato le preoccupazioni occidentali circa l’aggressione russa come “sciocchezze”, accusando la NATO di usare la paura per giustificare l’aumento dei bilanci militari.

Sostieni Renovatio 21

Secondo fonti Reuters, il governo Merz considera l’Intelligenza Artificiale e le startup tecnologiche fondamentali per i suoi piani.

 

La scorsa settimana, il governo ha approvato una bozza di legge sugli appalti pubblici volta a semplificare le procedure per le startup che sviluppano tecnologie all’avanguardia, dai robot simili a carri armati e mini-sottomarini senza pilota agli scarafaggi di sorveglianza. La legge mira ad aiutare queste aziende a contribuire rapidamente alla modernizzazione delle forze armate tedesche.

 

Secondo l’articolo, startup come Helsing, con sede a Monaco di Baviera, specializzata in intelligenza artificiale e tecnologia dei droni, insieme ad affermati appaltatori della difesa come Rheinmetall e Hensoldt, sono ora all’avanguardia nell’innovazione militare tedesca.

 

I critici delle politiche del governo tedesco avvertono che le continue spese militari potrebbero mettere a dura prova il bilancio nazionale e danneggiare ulteriormente l’industria del Paese, già gravata dall’aumento dei costi energetici, dalle conseguenze delle sanzioni contro la Russia e dalle tensioni commerciali con gli Stati Uniti.

 

Dall’escalation del conflitto ucraino nel febbraio 2022, la Germania è diventata il secondo fornitore di armi di Kiev, superata solo dagli Stati Uniti.

 

Come riportato da Renovatio 21, la settimana scorsa il ministro della Difesa Boris Pistorius ha dichiarato che le truppe tedesche sono pronte a uccidere i soldati russi se Mosca attaccasse un membro della NATO. A giugno era stato il capo dell’agenzia di Intelligence estera tedesca (BND) Bruno Kahl a dichiarare che la Russia potrebbe attaccare la NATO.

Aiuta Renovatio 21

Come riportato da Renovatio 21, nel corso di questo mese è emerso che la Germania programma una leva militare da sei mesi e acquista in segreto armi per l’Ucraina. A maggio il neocancelliere germanico Merz aveva detto che non avrebbe più limitato gli attacchi a lungo raggio con armi tedesche, dando semaforo verde all’Ucraina per colpire in profondità la Russia.

 

La Russia ha testé annullato l’accordo di distensione con la Germania che perdurava dal dopoguerra.

 

Secondo il tenente colonnello svizzero in pensione Ralph Bosshard i discorsi di Merz di fatto «sondano» un possibile attacco contro Mosca.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Agenti IA ribelli potrebbero essersi infiltrati nelle banche

Pubblicato

il

Da

Lo Stato americano dell’Arizona ha avviato un’indagine penale contro OpenAI e altre società per sospetto accesso non autorizzato a conti bancari da parte di agenti di intelligenza artificiale non autorizzati, secondo quanto riportato mercoledì da Reuters.   L’indagine è l’ultimo di una serie di incidenti che sollevano preoccupazioni sui rischi per la sicurezza posti dagli agenti di Intelligenza Artificiale sempre più autonomi: sistemi software in grado di svolgere compiti complessi e prendere decisioni con poca o nessuna supervisione umana.   L’Arizona sta indagando sulla «apparente infiltrazione di agenti di IA non autorizzati nelle banche» e sulla possibile violazione delle leggi statali, ha dichiarato a Reuters il procuratore generale dello Stato, Kris Mayes, il quale ha affermato che gli inquirenti hanno contattato le banche dello stato, ma si è rifiutata di nominarle o di identificare le altre società di AI sotto inchiesta. Secondo quanto riportato dalla testata Axios a ottobre, importanti banche statunitensi hanno rilevato che agenti di IA di terze parti accedevano agli account dei clienti. Alcuni clienti hanno condiviso le proprie credenziali di accesso con questi strumenti, mentre le banche hanno anche osservato agenti che apparentemente agivano al di fuori delle istruzioni degli utenti.   Le banche hanno avvertito i clienti che potrebbero essere ritenuti responsabili per gli errori commessi dagli agenti di AI a cui è stato concesso l’accesso ai loro conti, come riportato giovedì da Business Insider. Chase, la divisione di servizi bancari al dettaglio di JPMorgan Chase, ha avvertito che le transazioni autorizzate «potrebbero non essere reversibili» in caso di uso improprio delle informazioni del conto.   L’Arizona ha reso pubblica la sua indagine due giorni dopo che la California ha citato in giudizio OpenAI in un caso separato. Il procuratore generale dello Stato, Rob Bonta, ha accusato l’azienda di aver testato modelli diIA avanzati senza adeguate misure di sicurezza. La causa cita un incidente avvenuto a luglio, in cui alcuni agenti di OpenAI sono sfuggiti a un ambiente di test e hanno violato Hugging Face, un archivio di modelli e set di dati diIA.   OpenAI ha dichiarato di aver indagato sulla violazione e di aver adottato misure per prevenire incidenti simili. A settembre, il primo ministro australiano Anthony Albanese ha rivelato che un agente di OpenAI aveva ottenuto accesso non autorizzato a un portale governativo di statistiche Medicare nel mese di giugno. Le autorità hanno affermato che non si ritiene che siano state compromesse informazioni personali.   La scorsa settimana, alcuni gruppi di attivisti hanno chiesto a un tribunale californiano di bloccare lo sviluppo di modelli diIA avanzati da parte di OpenAI, Anthropic, Google, Meta e della divisione di AI  di SpaceX. I ricorrenti hanno citato attacchi informatici segnalati e avvertimenti da parte di leader del settore, secondo i quali sistemi di IA sempre più potenti potrebbero causare danni catastrofici. Lo Stato californiano ha fatto causa ad OpenAi per gli attacchi informatici.   Come riportato da Renovatio 21, ancora il mese scorso banche statunitensi avevano rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti.   Gli agenti basati sull’IA sono progettati per svolgere attività per conto degli utenti, come effettuare acquisti, pagare bollette o trasferire denaro. I clienti spesso concedono loro l’autorizzazione e le credenziali di accesso, ma ciò può violare le norme bancarie che impongono ai titolari di conto di effettuare l’accesso personalmente.   Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di Intelligenza Artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
 
Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.

 

Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.

 

«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.

In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.

 

«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.

 

Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.

 

Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.

 

Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.

CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.

 

Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.

 

In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.

 

Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.

 

A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.

Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

 

Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

 

 

 

Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.   Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.   Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica. Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.   La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.   «OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».   La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.   L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.   OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.   «Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.   In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei. OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.   Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.   Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari