Connettiti con Renovato 21

Intelligenza Artificiale

Notizie false nel podcast di lancio dell’intelligenza artificiale del WaPo

Pubblicato

il

I nuovi podcast personalizzati generati dall’intelligenza artificiale del Washington Post hanno proposto agli abbonati citazioni inventate e imprecisioni fattuali. Lo riporta la testata Semafor basandosi su comunicazioni interne del quotidiano americano.

 

Lanciata all’inizio della settimana, questa funzione offre agli utenti delle app mobile podcast creati con l’IA che riassumono e narrano automaticamente notizie selezionate, attingendo agli articoli pubblicati dal giornale.

 

Entro 48 ore dal debutto del prodotto, i dipendenti del WaPo hanno iniziato a denunciare vari problemi, tra cui citazioni false, attribuzioni errate di dichiarazioni e dettagli fattuali inesatti.

 

«È davvero sconcertante che sia stato permesso di procedere con tutto questo», avrebbe scritto un redattore del WaPo in un messaggio interno. Al momento della pubblicazione dell’articolo di Semafor, il Washington Post non aveva ancora riconosciuto pubblicamente le criticità.

Aiuta Renovatio 21

Questi errori segnalati emergono in un periodo di crescente scrutinio sulla credibilità dei media statunitensi. Alla fine del mese scorso, la Casa Bianca ha attivato sul suo sito ufficiale un sistema di monitoraggio della parzialità mediatica, con l’obiettivo di elencare pubblicamente articoli e testate che l’amministrazione ritiene distorti o inaccurati. Il WaPo figura in posizione di rilievo sull’elenco, accanto a organi come CNN, CBS e Politico.

 

Il WaPo è uno dei principali quotidiani nazionali degli Stati Uniti, insieme al New York Times e al Wall Street Journal. Dal 2013 è proprietà del fondatore di Amazon, Jeff Bezos. Sotto la sua guida, il WaPo ha potenziato le attività digitali e investito massicciamente nella tecnologia.

 

Le difficoltà dei podcast generati dall’IA del WaPo si manifestano mentre altri grandi media si orientano verso soluzioni analoghe. Società come Yahoo e Business Insider hanno di recente annunciato o ampliato strumenti basati sull’intelligenza artificiale per sintetizzare gli articoli, nell’ambito di una tendenza generale del settore a impiegare l’IA per contenere i costi, velocizzare la produzione e personalizzare i contenuti per i lettori.

 

L’incidente evidenzia preoccupazioni più generali sull’impiego dell’Intelligenza Artificiale nel giornalismo, dove i sistemi automatizzati hanno più volte generato errori, cosiddette allucinazioni e informazioni fuorvianti. Organizzazioni mediatiche ed esperti hanno messo in guardia sul fatto che, in assenza di robusti controlli editoriali, i contenuti prodotti dall’IA rischiano di minare l’accuratezza, la responsabilità e la fiducia del pubblico.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Esther Vargas via Flickr pubblicata su licenza CC BY-SA 2.0

Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.   Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.   «Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA. In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.   «Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.   Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.   Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.   Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi. CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.   Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.   In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.   Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.   A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI. Ecco il codice con il link inserito. È identico alla versione precedente, cambia solo l'`href`. ```html ``` Il link va alla collezione delle felpe crociate, e il banner si apre in una nuova scheda. Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.   Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
         
Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.

 

Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.

 

Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica.

Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.

 

La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.

 

«OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».

 

La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.

 

L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.

 

OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.

 

«Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.

 

In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei.

Ecco il codice con il link inserito. È identico alla versione precedente, cambia solo l'`href`. ```html ``` Il link va alla collezione delle felpe crociate, e il banner si apre in una nuova scheda.

OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.

 

Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.

 

Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.

 

L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».

 

Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Cina

Caduta del CEO di Nvidia, dito puntato su Marco Rubio

Pubblicato

il

Da

Un’inchiesta del Washington Post del 13 novembre ha rivelato che la rimozione di Jensen Huang, CEO di Nvidia, sarebbe stata orchestrata dal Segretario di Stato e Consigliere per la Sicurezza Nazionale degli Stati Uniti Marco Rubio   «La caduta di Huang, che potrebbe segnare un drammatico cambiamento di potere, è stata in definitiva innescata da uno dei più influenti falchi anti-cinesi della capitale, il Consigliere per la Sicurezza Nazionale e Segretario di Stato Marco Rubio», scrive il pezzo del WaPo.   Il meccanismo, secondo questa ricostruzione, consisteva nella riscrittura personale da parte di Rubio di un memorandum della CIA indirizzato al Presidente. Rubio avrebbe riscritto il memorandum «in termini più assertivi» e lo avrebbe poi presentato al Presidente Trump insieme all’originale della CIA, secondo quanto affermato da una presunta fonte confidenziale dell’amministrazione citata dal WaPo. Le conclusioni della versione del memorandum di Rubio, che enfatizzavano i legami tra Huang e lo spionaggio cinese, sono state divulgate ad alcune testate giornalistiche da una o più persone ignote, a partire dal New York Times il 9 novembre. Jensen Huang aveva avuto accesso personale al presidente Trump grazie all’importanza della sua azienda e aveva influenzato Trump affinché consentisse la prosecuzione degli scambi commerciali di semiconduttori con la Cina.   È stata diffusa una petizione firmata da decine di migliaia di dirigenti aziendali, tra cui Elon Musk, che chiedevano che a Huang fosse data la possibilità di riottenere la posizione di CEO di Nvidia   In un altro aspetto della controversia, Jensen Huang sosteneva l’utilizzo di modelli linguistici di grandi dimensioni (LLM) «open source», che potevano essere utilizzati da diverse aziende di Intelligenza Artificiale per testare i propri modelli; si opponeva – come apparentemente anche Trump – all’idea di sottoporre questi modelli di intelligenza artificiale a «protezioni di sicurezza» aziendali o governative e di regolamentarne rigidamente le funzionalità.   Molti modelli LLM cinesi sono «open source» e, quando dimostrano di avere la stessa potenza dei modelli occidentali a costi inferiori, i falchi anti-cinesi sostengono che la Cina lo faccia «rubando» i modelli statunitensi. Il gabinetto di Trump è ora profondamente diviso su queste questioni, con i ministri che si attaccano apertamente a vicenda, mettendo il presidente americano in una posizione più debole, soprattutto per quanto riguarda le discussioni sull’IA all’incontro trilaterale con Xi e Putin a Shenzhen tra due giorni.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di Anders Eidesvik, CC BY 4.0, via Wikimedia
 
Continua a leggere

Più popolari