Posto il veto sul primo disegno di legge statunitense sulla sicurezza dell’AI

Il governatore della California Gavin Newsom ha posto il veto a una legge storica sull’Intelligenza Artificiale che avrebbe stabilito le prime misure di sicurezza per il settore negli Stati Uniti. La legge, nota come California Senate Bill 104, o SB 1047, mirava a ridurre i potenziali rischi creati dall’IA.

La regolamentazione proposta avrebbe obbligato le aziende tecnologiche con modelli di Intelligenza Artificiale potenti a sottoporli a test di sicurezza prima di rilasciarli al pubblico, nonché a divulgare pubblicamente i protocolli di sicurezza dei modelli. Ciò sarebbe stato fatto per impedire che i modelli venissero manipolati per causare danni, come l’hacking di infrastrutture strategicamente importanti.

In un messaggio che accompagnava il veto di domenica, il governatore ha affermato che, sebbene la proposta fosse «ben intenzionata», si concentrava erroneamente sui modelli di IA «più costosi e su larga scala», mentre «modelli più piccoli e specializzati» potrebbero potenzialmente causare più danni. Newsom ha anche sostenuto che il disegno di legge non tiene conto dell’ambiente in cui viene distribuito un sistema di IA o se comporta un processo decisionale critico o l’uso di dati sensibili.

«Invece, il disegno di legge applica standard rigorosi anche alle funzioni più basilari… Non credo che questo sia il miglior approccio per proteggere il pubblico dalle minacce reali poste dalla tecnologia», ha affermato il governatore californiano.

Il Newsom ha sottolineato di essere d’accordo sul fatto che il settore debba essere regolamentato, ma ha chiesto iniziative più «informate» basate su «analisi empiriche della traiettoria dei sistemi e delle capacità di Intelligenza Artificiale».

«In definitiva, qualsiasi quadro per regolamentare efficacemente l’Intelligenza Artificiale deve tenere il passo con la tecnologia stessa… Data la posta in gioco – proteggere dalle minacce reali senza vanificare inutilmente la promessa di questa tecnologia di promuovere il bene pubblico – dobbiamo fare le cose per bene», ha il controverso politico sanfranciscano.

In qualità di governatore della California, Newsom è visto come colui che svolge un ruolo importante nel nascente processo di regolamentazione dell’IA. Secondo i dati del suo ufficio, lo stato ospita 32 delle «50 principali aziende di IA» del mondo.

L’autore del disegno di legge, il senatore dello Stato Scott Weiner, ha definito il veto «una battuta d’arresto» per coloro che «credono nella supervisione di grandi aziende che prendono decisioni critiche» che incidono sulla sicurezza pubblica. Ha promesso di continuare a lavorare sulla legislazione.

Il disegno di legge ha suscitato reazioni contrastanti da parte di aziende tecnologiche, ricercatori e legislatori. Mentre alcuni lo vedevano come un modo per aprire la strada a normative nazionali sul settore, altri sostenevano che avrebbe potuto soffocare lo sviluppo dell’IA. L’ex presidente della Camera degli Stati Uniti Nancy Pelosi ha definito la proposta «ben intenzionata ma mal informata».

Nel frattempo, decine di dipendenti di diverse aziende leader nel campo dell’Intelligenza Artificiale, come OpenAI, Anthropic e DeepMind di Google, hanno sostenuto il disegno di legge, perché ha aggiunto tutele per chi denuncia i rischi nei modelli di intelligenza artificiale che le loro aziende stanno sviluppando.

Come riportato da Renovatio 21, l’anno scorso l’ alto rappresentante delle Nazioni Unite per gli affari del disarmo Izumi Nakamitsu aveva dichiarato che l’uso dell’Intelligenza Artificiale abbinato alle armi nucleari può portare alla catastrofe.

n precedenza, i leader e gli studiosi del settore dell’Intelligenza Artificiale hanno firmato una lettera aperta sollecitando rapidi passi per mitigare i rischi apparentemente collegati ad esso.

La lettera è stata firmata da alcuni dei più grandi attori del settore, con firmatari tra cui il CEO di OpenAI (azienda creatrice di ChatGPT) Sam Altman, Geoffrey Hinton, il «padrino dell’IA», Dan Hendrycks, direttore del Center for AI Safety, alti dirigenti di Microsoft e Google e Microsoft.

«Mitigare il rischio di estinzione dell’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare», afferma la dichiarazione pubblicata il 30 maggio 2023.

La lettera aperta era stata preceduta da un messaggio di aprile, firmato dal CEO di Tesla Elon Musk e da una manciata di altre figure di spicco del settore, che chiedevano una pausa nella ricerca sull’IA.

Come riportato da Renovatio 21, a chiedere di fermare l’Intelligenza Artificiale è stato anche un gruppo di medici che hanno firmato un appello sulla prestigiosa rivista scientifica BMJ Global Health.

Un recente rapporto della banca d’affari Goldman Sachs calcola che l’IA potrebbe portare a breve a 300 milioni di disoccupati nel mondo.

Il Musk aveva dichiarato durante la sua recente intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Quando Musk ha ribattuto ad un entusiasta fondatore di Google Larry Page specificando i rischi dell’AI, il Page gli ha dato dello «specista», termine del gergo animalista che indica una persona che mette la specie umana sopra le altre.

L’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità». L’anno scorso, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».

Eliezer Yudkowsky, specialista nel tema dei pericoli delle IA, ha dichiarato che l’unica possibilità è una moratoria che preveda il bombardamento delle server farm dei Paesi che stanno sviluppando l’AGI, poiché se non si fermano le macchine «tutti sulla terra moriranno».

Come riportato da Renovatio 21, tale pessimismo non è condiviso dal magnate Bill Gates, che sostiene invece che l’IA «salverà la democrazia».

Come riportato da Renovatio 21, Microsoft ha finanziato con 10 miliardi di dollari OpenAI, integrando la sua IA nel motore di ricerca Bing, con risultati talvolta davvero allucinanti. Ricercatori dell’azienda – che, en passant, ricordiamo ha il brevetto per trasformare i morti in chatbot 3D – hanno affermato che ChatGPT-4 esibisce un’intelligenza «di livello umano».

Lo stesso Gates l’hanno passato, dopo essersi rifiutato di sottoscrivere la lettera di esperti che chiedeva una moratoria sui pericoli dell’AI, sostenne il suo uso nelle scuole dicendo che la macchina «alla fine diverrà un buon maestro» a livello dell’essere umano.

SOSTIENI RENOVATIO 21