Connettiti con Renovato 21

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.

 

Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.

 

«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.

In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.

 

«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.

 

Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.

 

Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.

 

Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.

CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.

 

Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.

 

In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.

 

Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.

 

A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.

Ecco il codice con il link inserito. È identico alla versione precedente, cambia solo l'`href`. ```html ``` Il link va alla collezione delle felpe crociate, e il banner si apre in una nuova scheda.

Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

 

Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

 

 

 

Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.   Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.   Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica. Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.   La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.   «OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».   La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.   L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.   OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.   «Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.   In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei. Ecco il codice con il link inserito. È identico alla versione precedente, cambia solo l'`href`. ```html ``` Il link va alla collezione delle felpe crociate, e il banner si apre in una nuova scheda. OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.   Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.   Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Cina

Caduta del CEO di Nvidia, dito puntato su Marco Rubio

Pubblicato

il

Da

Un’inchiesta del Washington Post del 13 novembre ha rivelato che la rimozione di Jensen Huang, CEO di Nvidia, sarebbe stata orchestrata dal Segretario di Stato e Consigliere per la Sicurezza Nazionale degli Stati Uniti Marco Rubio

 

«La caduta di Huang, che potrebbe segnare un drammatico cambiamento di potere, è stata in definitiva innescata da uno dei più influenti falchi anti-cinesi della capitale, il Consigliere per la Sicurezza Nazionale e Segretario di Stato Marco Rubio», scrive il pezzo del WaPo.

 

Il meccanismo, secondo questa ricostruzione, consisteva nella riscrittura personale da parte di Rubio di un memorandum della CIA indirizzato al Presidente. Rubio avrebbe riscritto il memorandum «in termini più assertivi» e lo avrebbe poi presentato al Presidente Trump insieme all’originale della CIA, secondo quanto affermato da una presunta fonte confidenziale dell’amministrazione citata dal WaPo.

Le conclusioni della versione del memorandum di Rubio, che enfatizzavano i legami tra Huang e lo spionaggio cinese, sono state divulgate ad alcune testate giornalistiche da una o più persone ignote, a partire dal New York Times il 9 novembre. Jensen Huang aveva avuto accesso personale al presidente Trump grazie all’importanza della sua azienda e aveva influenzato Trump affinché consentisse la prosecuzione degli scambi commerciali di semiconduttori con la Cina.

 

È stata diffusa una petizione firmata da decine di migliaia di dirigenti aziendali, tra cui Elon Musk, che chiedevano che a Huang fosse data la possibilità di riottenere la posizione di CEO di Nvidia

 

In un altro aspetto della controversia, Jensen Huang sosteneva l’utilizzo di modelli linguistici di grandi dimensioni (LLM) «open source», che potevano essere utilizzati da diverse aziende di Intelligenza Artificiale per testare i propri modelli; si opponeva – come apparentemente anche Trump – all’idea di sottoporre questi modelli di intelligenza artificiale a «protezioni di sicurezza» aziendali o governative e di regolamentarne rigidamente le funzionalità.

 

Molti modelli LLM cinesi sono «open source» e, quando dimostrano di avere la stessa potenza dei modelli occidentali a costi inferiori, i falchi anti-cinesi sostengono che la Cina lo faccia «rubando» i modelli statunitensi. Il gabinetto di Trump è ora profondamente diviso su queste questioni, con i ministri che si attaccano apertamente a vicenda, mettendo il presidente americano in una posizione più debole, soprattutto per quanto riguarda le discussioni sull’IA all’incontro trilaterale con Xi e Putin a Shenzhen tra due giorni.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Anders Eidesvik, CC BY 4.0, via Wikimedia

 

Continua a leggere

Intelligenza Artificiale

Bukele scatena robocani armati contro le bande criminali di Haiti, poi le truppe trovano teschi all’interno dello stadio

Pubblicato

il

Da

Il presidente salvadoregno Nayib Bukele ha diffuso un filmato in cui si vedono robocani, con fucili fissati sulla schiena, avanzare al fianco delle sue forze speciali durante la riconquista dello stadio nazionale haitiano di Port-au-Prince, in mano alle bande criminali dal febbraio 2024. All’interno della struttura, secondo quanto da lui dichiarato, le truppe hanno rinvenuto «diversi teschi umani».   Il video, della durata di 76 secondi e pubblicato su X il 12 novembre, mostra mezzi blindati che attraversano la capitale, militari che setacciano le tribune dello Stade Sylvio Cator e soldati impegnati a montare armi sui robot. Uno di questi si muove lungo un corridoio stretto e affronta una rampa di scale all’interno del complesso.   Bukele ha spiegato che lo stadio è stato liberato grazie a un’operazione congiunta condotta dalla Polizia Nazionale haitiana, dalle Forze Armate di Haiti, dalla Task Force governativa e dalle Forze Speciali di El Salvador, nell’ambito di un accordo bilaterale tra i due Paesi. «Ora stabiliremo una base operativa presso lo stadio in modo da poter continuare ad avanzare più in profondità nel territorio controllato dalle bande», ha scritto il presidente salvadoregno.   Nel filmato i robot procedono in testa alle truppe, senza però che vengano mostrati mentre aprono il fuoco o si confrontano direttamente con i membri delle bande. Il Bukele non ha chiarito quale ruolo concreto abbiano svolto durante l’assalto. Le forze salvadoregne avevano esibito per la prima volta questi cani robot a settembre, quando avevano aperto la parata del Giorno dell’Indipendenza a San Salvador.   In una sequenza del video si distingue quello che appare un cranio adagiato accanto ad altri resti ossei su terreno nudo e cemento. Bukele non ha precisato a chi appartenessero i resti e non sono stati comunicati esiti di analisi forensi.   Come riportato da Renovatio 21, i robocani armati sono oramai una realtà in tutto il pianeta, dagli USA a Taiwan, dall’India alla Cina Popolare con test in vari altri eserciti (Russia, Australia, e pure l’Italia, tra gli altri). Robocani sono stati visti in azioni in teatri di guerra come quello ucraino e quello gazano.   L’offensiva di Bukele rappresenta un’ulteriore intensificazione della campagna avviata da Bukele dopo l’imboscata subita il 18 ottobre a Croix-des-Bouquets da quattro tecnici aeronautici salvadoregni in servizio con la forza anti-bande sostenuta dalle Nazioni Unite. «Restituiteci i nostri quattro compatrioti sani e salvi», aveva chiesto all’epoca. Un capo banda ha successivamente affermato che i quattro sono deceduti e, secondo le stime dell’Associated Press, El Salvador schiera ora circa 2.500 soldati ad Haiti.   Come segnalato all’inizio del mese, elicotteri salvadoregni hanno colpito il complesso di Wilson «Lanmò San Jou» Joseph, leader della banda 400 Mawozo, e Bukele ha sostenuto che le sue truppe «hanno distrutto la casa di Lanmò San Jou e il quartier generale della banda 400 Mawozo».   Bukele si candiderà alle elezioni di febbraio, dopo che il suo partito ha anticipato la scadenza elettorale dal 2029 e rimosso il limite dei mandati presidenziali; i sondaggi gli attribuiscono un indice di gradimento superiore al 90%. Il primo ministro haitiano Alix Didier Fils-Aimé ha lodato l’intervento, mentre il segretario di Stato Marco Rubio ha precisato che gli Stati Uniti non partecipano attivamente all’operazione salvadoregna e appoggiano invece la forza delle Nazioni Unite. Bukele aveva invitato i membri delle bande ad andarsene prima dell’offensiva, avvertendo che chi fosse rimasto a combattere ne avrebbe subito le conseguenze; ora afferma inoltre che lo stadio diventerà la base da cui penetrare ulteriormente nel territorio di Port-au-Prince controllato dalle gang.   Come riportato da Renovatio 21, Bukele aveva pubblicato in settimana le immagini video di un attacco con elicotteri e missili ad un covo di una ghenga haitiana, le cui coordinate, si sostiene in rete, gli sono arrivate da soffiati di utenti.   Nel frattempo, il modello Bukele continua a stupire il mondo, dimostrando che è possibile risolvere praticamente tutto il problema della criminalità violenta ed organizzata in un tempo brevissimo.   Eletto per la prima volta nel 2019, il Bukele, definito da alcuni come «il dittatore più figo del mondo», ha scatenato un giro di vite contro la criminalità violenta e ha reso El Salvador il primo Paese al mondo ad accettare Bitcoin come moneta avente corso legale, realizzando per lo Stato il 31% di profitto in un anno. In seguito l’esperimento del Bitcoin fu abbandonato.   Come riportato da Renovatio 21, tra il 2015 e il 2022, secondo i dati ufficiali, il tasso di omicidi ogni 100.000 residenti è sceso da 107 a 7,8, portando al risultato di 365 giorni non consecutivi senza omicidi. Come riportato da Renovatio 21,  Bukele aveva fatto arrestare il consigliere per la sicurezza nazionale Alejandro Myushondt accusandolo di essere un agente doppio che lavorava al soldo dell’ex presidente Mauricio Funes, che vive in esilio in Nicaragua e ricercato da autorità salvadoregne per diversi reati.   In un’intervista a Tucker Carlson  Bukele rivelò che le gang narcos sono sataniste e sacrificano i bambini, trattando quindi della crisi della democrazia e del ritorno di Dio in politica.   Ad Haiti abbonda il vudù, come insegna l’immane strage (180 morti) di due anni fa, quando un signore della guerra ordinò un massacro di anziani che avrebbero praticato la stregoneria per far ammalare il figlio.   Come riportato da Renovatio 21, il governo haitiano per sconfiggere le ghenghe ha assunto anche Erik Prince, il fondatore di Blackwater.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine screenshot da Twitter
 
Continua a leggere

Più popolari