Connettiti con Renovato 21

Intelligenza Artificiale

OpenAI chiude l’app video Sora

Pubblicato

il

OpenAI, la società produttrice di ChatGPT, ha annunciato la chiusura della sua app Sora, diventata virale lo scorso autunno come piattaforma per la condivisione di brevi video generati dall’intelligenza artificiale, ma che aveva anche sollevato preoccupazioni riguardo al realismo dei deepfake.

 

In una breve dichiarazione pubblicata mercoledì su X, OpenAI ha affermato di «dire addio all’app Sora», senza però specificarne il motivo.

 

«A tutti coloro che hanno creato con Sora, l’hanno condivisa e hanno costruito una community attorno ad essa: grazie», ha scritto l’azienda. «Ciò che avete realizzato con Sora è stato importante e sappiamo che questa notizia è deludente.»

 


Iscriviti al canale Telegram

 

 

OpenAI ha rilasciato Sora per la prima volta alla fine del 2024. Lo strumento ha ottenuto notorietà a livello globale dopo il lancio del suo modello di seconda generazione e di un’app standalone lo scorso settembre.

 

L’app ha rapidamente scalato le classifiche di iOS per foto e video, grazie alla creazione di clip virali da parte degli utenti, che spaziavano da figure storiche fotorealistiche a surreali mashup della cultura pop. OpenAI non aveva precedentemente dato alcun segnale di voler chiudere Sora. A dicembre aveva persino annunciato un accordo, poi annullato, da 1 miliardo di dollari con Disney per portare sulla piattaforma personaggi di franchise come Marvel e Star Wars.

 

Tuttavia, Sora ha dovuto affrontare crescenti critiche per i deepfake, la disinformazione e l’uso non autorizzato di immagini di celebrità e materiale protetto da copyright. Gruppi di attivisti, accademici e figure del settore hanno messo in guardia sui rischi, tra cui l’utilizzo di immagini non consensuali e la perdita di posti di lavoro nel settore creativo. OpenAI è stata costretta a limitare le rappresentazioni tramite IA di personaggi pubblici come Michael Jackson e Martin Luther King Jr. a seguito delle pressioni esercitate dagli eredi e dai sindacati, tra cui il sindacato degli artisti statunitensi SAG-AFTRA.

 

Un portavoce della Disney ha dichiarato che la società interromperà la sua collaborazione con OpenAI.

 

«Con il rapido progresso del nascente campo dell’intelligenza artificiale, rispettiamo la decisione di OpenAI di abbandonare il settore della generazione di video e di ridefinire le proprie priorità», ha dichiarato il portavoce in un comunicato stampa. «Continueremo a esplorare tecnologie di intelligenza artificiale che rispettino la proprietà intellettuale e i diritti dei creatori.»

 

 

 

Nel frattempo, la chiusura di Sora precede anche una potenziale IPO di OpenAI, che secondo alcune indiscrezioni potrebbe concretizzarsi entro la fine dell’anno. Gli analisti interpretano la mossa come una strategia di riduzione dei costi, dato che la generazione di video tramite intelligenza artificiale richiede una potenza di calcolo elevata, per la quale OpenAI ha faticato a trovare un modello di business sostenibile. Alcune fonti suggeriscono che le priorità interne si stiano spostando verso aree commercialmente più redditizie, come i «collaboratori» basati sull’IA e la robotica.

 

OpenAI ha dichiarato che a breve fornirà dettagli sulla tempistica di chiusura e su come gli utenti potranno salvare i propri video.

 

SOSTIENI RENOVATIO 21


Immagine screenshot da YouTube

Continua a leggere

Intelligenza Artificiale

Agenti IA ribelli potrebbero essersi infiltrati nelle banche

Pubblicato

il

Da

Lo Stato americano dell’Arizona ha avviato un’indagine penale contro OpenAI e altre società per sospetto accesso non autorizzato a conti bancari da parte di agenti di intelligenza artificiale non autorizzati, secondo quanto riportato mercoledì da Reuters.   L’indagine è l’ultimo di una serie di incidenti che sollevano preoccupazioni sui rischi per la sicurezza posti dagli agenti di Intelligenza Artificiale sempre più autonomi: sistemi software in grado di svolgere compiti complessi e prendere decisioni con poca o nessuna supervisione umana.   L’Arizona sta indagando sulla «apparente infiltrazione di agenti di IA non autorizzati nelle banche» e sulla possibile violazione delle leggi statali, ha dichiarato a Reuters il procuratore generale dello Stato, Kris Mayes, il quale ha affermato che gli inquirenti hanno contattato le banche dello stato, ma si è rifiutata di nominarle o di identificare le altre società di AI sotto inchiesta. Secondo quanto riportato dalla testata Axios a ottobre, importanti banche statunitensi hanno rilevato che agenti di IA di terze parti accedevano agli account dei clienti. Alcuni clienti hanno condiviso le proprie credenziali di accesso con questi strumenti, mentre le banche hanno anche osservato agenti che apparentemente agivano al di fuori delle istruzioni degli utenti.   Le banche hanno avvertito i clienti che potrebbero essere ritenuti responsabili per gli errori commessi dagli agenti di AI a cui è stato concesso l’accesso ai loro conti, come riportato giovedì da Business Insider. Chase, la divisione di servizi bancari al dettaglio di JPMorgan Chase, ha avvertito che le transazioni autorizzate «potrebbero non essere reversibili» in caso di uso improprio delle informazioni del conto.   L’Arizona ha reso pubblica la sua indagine due giorni dopo che la California ha citato in giudizio OpenAI in un caso separato. Il procuratore generale dello Stato, Rob Bonta, ha accusato l’azienda di aver testato modelli diIA avanzati senza adeguate misure di sicurezza. La causa cita un incidente avvenuto a luglio, in cui alcuni agenti di OpenAI sono sfuggiti a un ambiente di test e hanno violato Hugging Face, un archivio di modelli e set di dati diIA.   OpenAI ha dichiarato di aver indagato sulla violazione e di aver adottato misure per prevenire incidenti simili. A settembre, il primo ministro australiano Anthony Albanese ha rivelato che un agente di OpenAI aveva ottenuto accesso non autorizzato a un portale governativo di statistiche Medicare nel mese di giugno. Le autorità hanno affermato che non si ritiene che siano state compromesse informazioni personali.   La scorsa settimana, alcuni gruppi di attivisti hanno chiesto a un tribunale californiano di bloccare lo sviluppo di modelli diIA avanzati da parte di OpenAI, Anthropic, Google, Meta e della divisione di AI  di SpaceX. I ricorrenti hanno citato attacchi informatici segnalati e avvertimenti da parte di leader del settore, secondo i quali sistemi di IA sempre più potenti potrebbero causare danni catastrofici. Lo Stato californiano ha fatto causa ad OpenAi per gli attacchi informatici.   Come riportato da Renovatio 21, ancora il mese scorso banche statunitensi avevano rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti.   Gli agenti basati sull’IA sono progettati per svolgere attività per conto degli utenti, come effettuare acquisti, pagare bollette o trasferire denaro. I clienti spesso concedono loro l’autorizzazione e le credenziali di accesso, ma ciò può violare le norme bancarie che impongono ai titolari di conto di effettuare l’accesso personalmente.   Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di Intelligenza Artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
 
Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.

 

Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.

 

«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.

In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.

 

«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.

 

Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.

 

Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.

 

Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.

CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.

 

Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.

 

In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.

 

Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.

 

A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.

Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

 

Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

 

 

 

Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.   Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.   Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica. Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.   La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.   «OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».   La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.   L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.   OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.   «Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.   In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei. OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.   Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.   Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari