Connettiti con Renovato 21

Intelligenza Artificiale

Trump firma l’ordine di deregolamentazione dell’Intelligenza Artificiale

Pubblicato

il

Il presidente degli Stati Uniti Donald Trump ha emanato giovedì un ordine esecutivo volto a restringere la regolamentazione dell’intelligenza artificiale a livello statale, in attesa dell’elaborazione di una strategia nazionale. Secondo il governo federale, un quadro normativo frammentato rischierebbe di compromettere la superiorità competitiva dell’America nel campo dell’IA rispetto alla Cina.

 

L’amministrazione mira a scongiurare una situazione in cui un «mosaico di 50 regimi normativi distinti» domini un comparto ritenuto per sua natura interstatali, come ha spiegato su X David Sacks, consigliere di Trump per le questioni di IA. Un sistema di intelligenza artificiale potrebbe essere sviluppato in uno stato, allenato in un altro e commercializzato su scala nazionale, ha precisato.

 

Il Sacks ha rilevato che già oggi vigono oltre 100 normative statali sull’IA, con più di 1.000 proposte in discussione. «Nella peggiore delle ipotesi, ci troveremmo con 50 modelli di IA differenti per 50 Stati diversi: un pantano regolatorio persino peggiore di quello europeo», ha commentato.

 

Iscriviti alla Newslettera di Renovatio 21

Trump ha incaricato il Dipartimento di Giustizia di impugnare in sede giudiziaria le leggi statali giudicate «eccessivamente gravose». Washington ricorrerà inoltre a finanziamenti federali e appalti pubblici per incentivare gli stati ad adeguarsi alla linea federale. Tali iniziative sono presentate come provvisorie, in vista dell’approvazione congressuale di uno «standard nazionale con minimo onere regolatorio» per l’IA.

 

La Casa Bianca ha pure espresso timori di natura ideologica, accusando gli stati guidati da democratici di imporre agli sviluppatori di IA restrizioni «woke», quali obblighi per evitare la «discriminazione algoritmica» verso categorie protette.

 

«Proprio per questo genere di interferenze ideologiche siamo arrivati al “George Washington nero”», ha ironizzato Sacks, alludendo a un caso di grande risonanza dell’anno scorso, in cui il tool di generazione immagini Gemini di Google produceva raffigurazioni storiche con diversità razziale forzata e discutibile.

 

L’amministrazione Trump e le imprese tech americane stanno scommettendo forte sull’IA come leva per la crescita economica, sebbene i detrattori mettano in guardia sui rischi di ingenti investimenti fondati su stime di guadagno incerte, potenzialmente forieri di una bolla speculativa.

 

Non mancano allarmi per possibili reazioni avverse dell’opinione pubblica, dato che l’espansione accelerata dei data center energivori indispensabili per l’IA ha provocato rincari nelle bollette elettriche in talune zone. Sacks ha tenuto a precisare che la nuova direttiva «non imporrebbe alle comunità di accogliere data center indesiderati».

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di pubblico dominio CC0 via Flickr

Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.   Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.   «Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA. In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.   «Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.   Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.   Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.   Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi. CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.   Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.   In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.   Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.   A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI. Ecco il codice con il link inserito. È identico alla versione precedente, cambia solo l'`href`. ```html ``` Il link va alla collezione delle felpe crociate, e il banner si apre in una nuova scheda. Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.   Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
         
Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.

 

Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.

 

Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica.

Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.

 

La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.

 

«OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».

 

La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.

 

L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.

 

OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.

 

«Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.

 

In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei.

Ecco il codice con il link inserito. È identico alla versione precedente, cambia solo l'`href`. ```html ``` Il link va alla collezione delle felpe crociate, e il banner si apre in una nuova scheda.

OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.

 

Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.

 

Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.

 

L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».

 

Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Cina

Caduta del CEO di Nvidia, dito puntato su Marco Rubio

Pubblicato

il

Da

Un’inchiesta del Washington Post del 13 novembre ha rivelato che la rimozione di Jensen Huang, CEO di Nvidia, sarebbe stata orchestrata dal Segretario di Stato e Consigliere per la Sicurezza Nazionale degli Stati Uniti Marco Rubio   «La caduta di Huang, che potrebbe segnare un drammatico cambiamento di potere, è stata in definitiva innescata da uno dei più influenti falchi anti-cinesi della capitale, il Consigliere per la Sicurezza Nazionale e Segretario di Stato Marco Rubio», scrive il pezzo del WaPo.   Il meccanismo, secondo questa ricostruzione, consisteva nella riscrittura personale da parte di Rubio di un memorandum della CIA indirizzato al Presidente. Rubio avrebbe riscritto il memorandum «in termini più assertivi» e lo avrebbe poi presentato al Presidente Trump insieme all’originale della CIA, secondo quanto affermato da una presunta fonte confidenziale dell’amministrazione citata dal WaPo. Le conclusioni della versione del memorandum di Rubio, che enfatizzavano i legami tra Huang e lo spionaggio cinese, sono state divulgate ad alcune testate giornalistiche da una o più persone ignote, a partire dal New York Times il 9 novembre. Jensen Huang aveva avuto accesso personale al presidente Trump grazie all’importanza della sua azienda e aveva influenzato Trump affinché consentisse la prosecuzione degli scambi commerciali di semiconduttori con la Cina.   È stata diffusa una petizione firmata da decine di migliaia di dirigenti aziendali, tra cui Elon Musk, che chiedevano che a Huang fosse data la possibilità di riottenere la posizione di CEO di Nvidia   In un altro aspetto della controversia, Jensen Huang sosteneva l’utilizzo di modelli linguistici di grandi dimensioni (LLM) «open source», che potevano essere utilizzati da diverse aziende di Intelligenza Artificiale per testare i propri modelli; si opponeva – come apparentemente anche Trump – all’idea di sottoporre questi modelli di intelligenza artificiale a «protezioni di sicurezza» aziendali o governative e di regolamentarne rigidamente le funzionalità.   Molti modelli LLM cinesi sono «open source» e, quando dimostrano di avere la stessa potenza dei modelli occidentali a costi inferiori, i falchi anti-cinesi sostengono che la Cina lo faccia «rubando» i modelli statunitensi. Il gabinetto di Trump è ora profondamente diviso su queste questioni, con i ministri che si attaccano apertamente a vicenda, mettendo il presidente americano in una posizione più debole, soprattutto per quanto riguarda le discussioni sull’IA all’incontro trilaterale con Xi e Putin a Shenzhen tra due giorni.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di Anders Eidesvik, CC BY 4.0, via Wikimedia
 
Continua a leggere

Più popolari