Connettiti con Renovato 21

Intelligenza Artificiale

A Davos si è discusso di di Intelligenza Artificiale per creare rapidamente nuovi vaccini

Pubblicato

il

Renovatio 21 traduce questo articolo per gentile concessione di Children’s Health Defense. Le opinioni degli articoli pubblicati non coincidono necessariamente con quelle di Renovatio 21.

 

L’incontro annuale del World Economic Forum si è concluso questa settimana con richieste di identità digitali, rapido sviluppo di nuovi vaccini, maggiori collaborazioni con media aziendali come il New York Times e una diffusa accettazione e proliferazione dell’intelligenza artificiale in tutti i settori della società. compresa la sanità e l’istruzione.

 

La minaccia di una nuova pandemia e la cosiddetta «disinformazione». Il futuro della democrazia. L’impatto futuro dell’intelligenza artificiale (AI) nella società. L’«agenda verde».

 

Sono solo alcuni dei temi all’ordine del giorno del meeting annuale del World Economic Forum (WEF) che si è concluso a Davos, in Svizzera.

 

Alcuni dei punti salienti dell’incontro di quest’anno includevano avvertimenti su come una «malattia X» ancora sconosciuta potrebbe causare la prossima pandemia, discussioni su come l’Intelligenza Artificiale potrebbe portare al rapido sviluppo di nuovi vaccini e discorsi su come l’intelligenza artificiale potrebbe cadere vittima di – o filtrare – la cosiddetta «misinformazione» e «disinformazione».

Sostieni Renovatio 21

«Non vogliamo aspettare un anno prima di avere il vaccino»

Gli avvertimenti sono stati accompagnati da prospettive più ottimistiche – dal punto di vista dei partecipanti all’incontro – sul ruolo che l’Intelligenza Artificiale potrebbe svolgere nell’affrontare future pandemie, ad esempio attraverso il rapido sviluppo di nuovi vaccini.

 

Jeremy Hunt, il cancelliere dello Scacchiere del Regno Unito, ha dichiarato durante una tavola rotonda alla quale ha partecipato il CEO di Pfizer Albert Bourla che «quando avremo la prossima pandemia, non vogliamo dover aspettare un anno prima di ottenere il vaccino».

 

«Se l’intelligenza artificiale riuscisse a ridurre il tempo necessario per ottenere il vaccino a un mese, allora si tratterebbe di un enorme passo avanti per l’umanità», ha affermato Hunt.

 

 

Id digitale «molto necessario» per tracciare i non vaccinati

Durante un altro dibattito, la regina Máxima dei Paesi Bassi ha affermato che l’identità digitale è «molto necessaria» per la fornitura di una serie di servizi pubblici – e ha suggerito che può essere utilizzata per tracciare i non vaccinati.

 

L’identità digitale «è molto necessaria per i servizi finanziari, ma non solo. È positivo anche per l’iscrizione scolastica, è positivo anche per la salute – chi ha effettivamente ricevuto o meno la vaccinazione», ha affermato.

 

Iscriviti alla Newslettera di Renovatio 21

Bourla ha approfondito le possibilità che vede per l’intelligenza artificiale nel campo dell’assistenza sanitaria.

 

Rispondendo a una domanda del giornalista della CNN Fareed Zakaria, Bourla ha detto: «il nostro compito è fare scoperte che cambino la vita dei pazienti. Con l’intelligenza artificiale, posso farlo più velocemente e meglio».

 

Un esempio identificato da Bourla è stato il ruolo svolto dall’Intelligenza Artificiale nello sviluppo di Paxlovid, un farmaco orale da prescrizione commercializzato come trattamento per il COVID-19.

 

«È stato sviluppato in quattro mesi», ha detto Bourla, mentre lo sviluppo di un farmaco del genere «di solito richiede quattro anni». Ha detto che l’Intelligenza Artificiale ha contribuito a ridurre significativamente la quantità di tempo necessaria per il processo di «scoperta di farmaci», in cui «si sintetizzi davvero milioni di molecole e poi provi a scoprire al loro interno quale funziona».

 

Ha attribuito a questa svolta il salvataggio di «milioni di vite».

 

«Credo davvero che stiamo per entrare in un rinascimento scientifico nelle scienze della vita grazie a questa coesistenza di progressi nella tecnologia e nella biologia», ha detto Bourla. «L’Intelligenza Artificiale è uno strumento molto potente. Nelle mani di persone cattive [esso] può fare cose cattive per il mondo, ma nelle mani di persone buone [esso] può fare grandi cose per il mondo».

 

Durante la tavola rotonda «Prepararsi per la malattia X», il direttore generale dell’Organizzazione Mondiale della Sanità, Tedros Adhanom Ghebreyesus, ha avvertito che il mondo deve prepararsi per una futura pandemia, che potrebbe essere causata da una «malattia X» ancora sconosciuta.

 

I relatori hanno avvertito che la «Malattia X» – che è inclusa nell’elenco delle «malattie prioritarie» dell’OMS – potrebbe «provocare 20 volte più morti della pandemia di coronavirus».

 

 

Oltre alla «Malattia X», Tedros e altri partecipanti al panel hanno discusso anche della necessità di un «accordo sulla pandemia» e dell’urgenza di vederlo approvato all’Assemblea Mondiale della Sanità di quest’anno, che si terrà tra il 27 maggio e il 1 giugno a Ginevra.

Aiuta Renovatio 21

«Avremo medici digitali, persone digitali»

Durante il panel «La tecnologia in un mondo turbolento», i relatori hanno offerto previsioni su altri modi in cui è probabile che l’intelligenza artificiale venga integrata nella vita delle persone.

 

Marc Benioff, presidente e amministratore delegato di Salesforce, ha affermato che, sebbene «l’Intelligenza Artificiale non sia realmente a un punto in cui stiamo sostituendo gli esseri umani, è davvero a un punto in cui li stiamo potenziando».

 

Ha citato, come esempi ipotetici, la possibilità che i partecipanti al WEF possano chiedere a un’applicazione di intelligenza artificiale come ChatGPT «quali sono alcune buone domande che potrei porre» durante il loro panel, o che i radiologi possano usare l’Intelligenza Artificiale «per aiutare a leggere la mia TAC nella mia risonanza magnetica».

 

«Stiamo per arrivare a quella svolta in cui diremo “wow, è quasi come se fosse una persona digitale”», ha detto Benioff. Tuttavia, riflettendo il tema dell’incontro del WEF di quest’anno – «Ricostruire la fiducia» – ha aggiunto: «quando arriveremo a quel punto, ci chiederemo: “ci fidiamo?”»

 

«Avremo medici digitali, persone digitali, queste persone digitali si uniranno e ci dovrà essere un livello di fiducia», ha detto Benioff.

 

Allo stesso modo, Sam Altman, CEO di OpenAI – che mantiene una partnership con Microsoft – ha affermato che l’intelligenza artificiale aiuterà «il lavoro di tutti… a operare a un livello di astrazione un po’ più elevato».

 

«Avremo tutti accesso a molte più capacità e continueremo a prendere decisioni. Nel corso del tempo potrebbero tendere maggiormente verso la cura, ma prenderemo decisioni su cosa dovrebbe accadere nel mondo», ha affermato.

 

Anche Julie Sweet, presidente e CEO di Accenture, ha espresso ottimismo sul ruolo futuro dell’Intelligenza Artificiale, affermando che l’Intelligenza Artificiale «migliorerà enormemente i servizi sociali».

 

Per costruire «fiducia», Benioff ha chiesto una maggiore regolamentazione, alludendo all’ecosistema dei social media e alla «disinformazione» su tali piattaforme.

 

«Dobbiamo rivolgerci anche a questi regolatori e dire: “ehi, se guardate ai social media negli ultimi dieci anni, è stato uno spettacolo dannatamente schifoso”. È piuttosto brutto. Non lo vogliamo nel nostro settore dell’Intelligenza Artificiale. Vogliamo avere una buona e sana partnership con questi moderatori e con questi regolatori».

Sostieni Renovatio 21

Altman ha suggerito che un modo per sviluppare tali «partnership» è addestrare l’intelligenza artificiale a individuare e identificare informazioni da determinate fonti preferite.

 

«Ciò che vogliamo fare con i proprietari di contenuti, come il New York Times e gli accordi che abbiamo stretto con molti altri editori, e faremo di più nel tempo, è quando un utente dice: “Ehi, ChatGPT, cosa è successo a Davos oggi?”, vorremmo visualizzare contenuti, creare collegamenti, mostrare marchi di luoghi come il New York Times o il Wall Street Journal o qualsiasi altra grande pubblicazione e dire: “Ecco cosa è successo oggi. Ecco queste informazioni in tempo reale”» ha dichiarato.

 

Bourla ha anche chiesto una maggiore regolamentazione dell’intelligenza artificiale, affermando che, pur essendo «certo in questo momento che i benefici superano chiaramente i rischi», ritiene che «abbiamo bisogno di una regolamentazione in questo momento».

 

Hunt, tuttavia, ha affermato che una regolamentazione minima è l’approccio migliore in questo momento.

 

«Penso che dobbiamo essere leggeri perché… è una fase davvero emergente. Puoi uccidere la gallina dalle uova d’oro prima che abbia la possibilità di crescere», ha detto.

 

L’Intelligenza Artificiale potrebbe essere utilizzata per educare gli studenti sulla «disinformazione»

I leader del WEF hanno affrontato anche il ruolo futuro dell’Intelligenza Artificiale nell’istruzione, in particolare durante il panel «L’istruzione incontra l’intelligenza artificiale».

 

 

Secondo Forbes, i relatori, tra cui funzionari governativi della Slovenia e degli Emirati Arabi Uniti, hanno suggerito che l’Intelligenza Artificiale fornirà «nuove opportunità per l’apprendimento e il tutoraggio profondamente personalizzati».

 

Ahmad bin Abdullah Humaid Belhoul Al Falasi, ministro dell’Istruzione degli Emirati Arabi Uniti, ha definito questo «tutoraggio democratico», suggerendo che l’Intelligenza Artificiale fornirebbe un tutoraggio «scalabile» «disponibile a tutti» al di fuori della classe, che integrerà l’insegnamento in classe e che «lascia la parte più difficile – le competenze trasversali – agli insegnanti».

 

Nzinga Qunta, conduttrice della South African Broadcasting Corporation, ha suggerito che tale tutoraggio non sarebbe limitato in termini di età o spazio fisico.

 

I relatori hanno anche rassicurato sul fatto che l’Intelligenza Artificiale non porterà all’eliminazione dei posti di lavoro umani, ma hanno suggerito che le persone non perderanno il lavoro a causa dell’Intelligenza Artificiale «ma a causa di persone che sanno come usare l’Intelligenza Artificiale», ha riferito Forbes.

 

Durante la discussione è stato evidenziato anche il «rischio di cattiva informazione» e i relatori hanno suggerito che il “pensiero critico” può consentire agli studenti di identificare i rischi «pericolosi» di «misinformazione» e «disinformazione».

Iscriviti alla Newslettera di Renovatio 21

La «disinformazione» può portare a «disordini civili»

La «disinformazione» ha infatti avuto un posto di rilievo all’ordine del giorno dell’incontro del WEF di quest’anno. Il Global Risks Report del WEF, pubblicato il 10 gennaio, ha definito la «misinformazione» e la «disinformazione» derivate dall’Intelligenza Artificiale come il rischio principale che il mondo dovrà affrontare nei prossimi due anni e il quinto rischio più alto nel prossimo decennio.

 

Secondo il rapporto, nei prossimi due anni «attori nazionali e stranieri sfrutteranno la disinformazione e la disinformazione per ampliare le divisioni sociali e politiche» nei prossimi due anni, ponendo un rischio per le elezioni in paesi come Stati Uniti, Regno Unito e India e un rischio di «conflitti civili» e «disordini» in tutto il mondo.

 

«Inoltre, le false informazioni e la polarizzazione sociale sono intrinsecamente intrecciate, con il potenziale per amplificarsi a vicenda», secondo Saadia Zahidi, direttore generale del WEF, per cui sono necessari «innovazione e processi decisionali affidabili». Tuttavia, ha affermato che ciò «è possibile solo in un mondo allineato ai fatti».

 

 

«C’è il rischio che vengano eletti i leader sbagliati»

Gli avvertimenti del WEF sulla «minaccia» di «disinformazione» e «disinformazione» sono strettamente in linea con i timori espressi dai partecipanti all’incontro del WEF riguardo al modo in cui l’intelligenza artificiale potrebbe avere un impatto sulla democrazia e sul processo elettorale.

 

Nei giorni scorsi è diventato virale sui social media un video che mostra il cofondatore e presidente del WEF Klaus Schwab mentre discute con Sergey Brin, cofondatore ed ex presidente di Google. Schwab ha suggerito uno scenario ipotetico in cui «non è nemmeno più necessario tenere le elezioni» perché l’intelligenza artificiale «può già prevedere il vincitore» – uno scenario che Brin non ha esplicitamente respinto.

 

Aiuta Renovatio 21

Anche se il video è stato spesso presentato nei post sui social media come proveniente dall’incontro del WEF di quest’anno, in realtà proviene da una discussione tenutasi all’incontro annuale del WEF nel 2017. Tuttavia, anche altre dichiarazioni rilasciate all’incontro di quest’anno hanno fatto riferimento alle elezioni e alla governance.

 

Oggi nel corso di una tavola rotonda sul tema «Rischi globali: cosa c’è nella posta?» Haslinda Amin, principale corrispondente internazionale di Bloomberg News per il Sud-Est asiatico, ha suggerito che «c’è il rischio che vengano eletti i leader sbagliati» nelle elezioni di quest’anno nei Paesi chiave.

 

Rispondendo ad Amin, Douglas L. Peterson, presidente e amministratore delegato di S&P Global, ha affermato che questo «è uno dei rischi principali per quest’anno» e ha aggiunto: «dobbiamo anche assicurarci di rimanere impegnati attraverso le istituzioni globali, come l’ONU, come la NATO».

 

 

E durante il suo discorso speciale alla riunione del WEF, António Guterres, segretario generale delle Nazioni Unite, ha chiesto «meccanismi efficaci di governance globale» come parte di «un nuovo ordine globale multipolare».

Sostieni Renovatio 21

Costruire «l’ordine economico internazionale» necessario per affrontare la «crisi climatica»

Numerosi partecipanti all’incontro del WEF hanno anche messo in guardia sui rischi posti dal cambiamento climatico e hanno colto l’occasione per chiedere più soldi e investimenti per iniziative «verdi».

 

Intervenendo all’inizio di questa settimana alla riunione del WEF, John Kerry, inviato speciale presidenziale degli Stati Uniti per il clima, ha affermato che il 2023 «è stato letteralmente l’anno più dirompente, perturbato dal punto di vista climatico, con maggiori conseguenze climatiche e negativo nella storia umana» e che, di conseguenza, non ci sono non c’è più «spazio per il dibattito o, francamente, per la procrastinazione».

 

 

Per rispondere a questa situazione, i partecipanti all’incontro del WEF hanno affermato che sono necessari più soldi. Ad esempio, Tharman Shanmugaratnam, presidente di Singapore, ha affermato che «i governi dovranno investire molto più di quanto hanno investito prima».

 

E secondo Chrystia Freeland, vice primo ministro canadese, l’intervento del governo è necessario come parte della transizione dal carbonio – un processo che, secondo lei, creerà «più posti di lavoro, più crescita, più produzione».

 

 

Il prezzo da pagare per tali interventi, secondo Christine Lagarde, presidente della Banca Centrale Europea, è «non inferiore a 620 miliardi all’anno per portare effettivamente avanti la transizione verde».

Aiuta Renovatio 21

Quando si è confrontata giovedì per le strade di Davos con il giornalista di True North Media Andrew Lawton, Lagarde ha eluso le domande sul fatto se le valute digitali delle banche centrali, come l’euro digitale introdotto da Lagarde, potessero essere utilizzate per controllare le persone.

 

 

«Non parlo perché sono in un periodo tranquillo», è stata la risposta di Lagarde.

 

In un altro scontro nelle strade di Davos, i giornalisti di Rebel News hanno preso di mira Philipp Hildebrand, vicepresidente di BlackRock, una delle più grandi società di investimento del mondo, ponendogli una serie di domande sul sostegno di BlackRock agli «ESG»: governance ambientale, sociale e aziendale.

 

 

Hildebrand non ha risposto a nessuna delle domande dei giornalisti.

 

 

E Jake Sullivan, consigliere per la sicurezza nazionale degli Stati Uniti, ha unito diversi fili, suggerendo martedì durante un discorso speciale che «l’ordine economico internazionale» potrebbe essere costruito o aggiornato «in modo da… affrontare la crisi climatica».

 

Tra i 2.800 partecipanti di quest’anno provenienti da 120 paesi c’erano più di 60 capi di stato e 1.600 leader aziendali.

 

Michael Nevradakis

Ph.D.

 

© 19 gennaio 2024, Children’s Health Defense, Inc. Questo articolo è riprodotto e distribuito con il permesso di Children’s Health Defense, Inc. Vuoi saperne di più dalla Difesa della salute dei bambini? Iscriviti per ricevere gratuitamente notizie e aggiornamenti da Robert F. Kennedy, Jr. e la Difesa della salute dei bambini. La tua donazione ci aiuterà a supportare gli sforzi di CHD.

 

Renovatio 21 offre questa traduzione per dare una informazione a 360º. Ricordiamo che non tutto ciò che viene pubblicato sul sito di Renovatio 21 corrisponde alle nostre posizioni.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21



 

Intelligenza Artificiale

Agenti IA ribelli potrebbero essersi infiltrati nelle banche

Pubblicato

il

Da

Lo Stato americano dell’Arizona ha avviato un’indagine penale contro OpenAI e altre società per sospetto accesso non autorizzato a conti bancari da parte di agenti di intelligenza artificiale non autorizzati, secondo quanto riportato mercoledì da Reuters.   L’indagine è l’ultimo di una serie di incidenti che sollevano preoccupazioni sui rischi per la sicurezza posti dagli agenti di Intelligenza Artificiale sempre più autonomi: sistemi software in grado di svolgere compiti complessi e prendere decisioni con poca o nessuna supervisione umana.   L’Arizona sta indagando sulla «apparente infiltrazione di agenti di IA non autorizzati nelle banche» e sulla possibile violazione delle leggi statali, ha dichiarato a Reuters il procuratore generale dello Stato, Kris Mayes, il quale ha affermato che gli inquirenti hanno contattato le banche dello stato, ma si è rifiutata di nominarle o di identificare le altre società di AI sotto inchiesta. Secondo quanto riportato dalla testata Axios a ottobre, importanti banche statunitensi hanno rilevato che agenti di IA di terze parti accedevano agli account dei clienti. Alcuni clienti hanno condiviso le proprie credenziali di accesso con questi strumenti, mentre le banche hanno anche osservato agenti che apparentemente agivano al di fuori delle istruzioni degli utenti.   Le banche hanno avvertito i clienti che potrebbero essere ritenuti responsabili per gli errori commessi dagli agenti di AI a cui è stato concesso l’accesso ai loro conti, come riportato giovedì da Business Insider. Chase, la divisione di servizi bancari al dettaglio di JPMorgan Chase, ha avvertito che le transazioni autorizzate «potrebbero non essere reversibili» in caso di uso improprio delle informazioni del conto.   L’Arizona ha reso pubblica la sua indagine due giorni dopo che la California ha citato in giudizio OpenAI in un caso separato. Il procuratore generale dello Stato, Rob Bonta, ha accusato l’azienda di aver testato modelli diIA avanzati senza adeguate misure di sicurezza. La causa cita un incidente avvenuto a luglio, in cui alcuni agenti di OpenAI sono sfuggiti a un ambiente di test e hanno violato Hugging Face, un archivio di modelli e set di dati diIA.   OpenAI ha dichiarato di aver indagato sulla violazione e di aver adottato misure per prevenire incidenti simili. A settembre, il primo ministro australiano Anthony Albanese ha rivelato che un agente di OpenAI aveva ottenuto accesso non autorizzato a un portale governativo di statistiche Medicare nel mese di giugno. Le autorità hanno affermato che non si ritiene che siano state compromesse informazioni personali.   La scorsa settimana, alcuni gruppi di attivisti hanno chiesto a un tribunale californiano di bloccare lo sviluppo di modelli diIA avanzati da parte di OpenAI, Anthropic, Google, Meta e della divisione di AI  di SpaceX. I ricorrenti hanno citato attacchi informatici segnalati e avvertimenti da parte di leader del settore, secondo i quali sistemi di IA sempre più potenti potrebbero causare danni catastrofici. Lo Stato californiano ha fatto causa ad OpenAi per gli attacchi informatici.   Come riportato da Renovatio 21, ancora il mese scorso banche statunitensi avevano rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti.   Gli agenti basati sull’IA sono progettati per svolgere attività per conto degli utenti, come effettuare acquisti, pagare bollette o trasferire denaro. I clienti spesso concedono loro l’autorizzazione e le credenziali di accesso, ma ciò può violare le norme bancarie che impongono ai titolari di conto di effettuare l’accesso personalmente.   Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di Intelligenza Artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
 
Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.

 

Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.

 

«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.

In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.

 

«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.

 

Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.

 

Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.

 

Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.

CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.

 

Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.

 

In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.

 

Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.

 

A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.

Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

 

Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

 

 

 

Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.   Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.   Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica. Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.   La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.   «OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».   La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.   L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.   OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.   «Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.   In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei. OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.   Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.   Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari