Connettiti con Renovato 21

Intelligenza Artificiale

Donna fa causa a OpenAI: ChatGPT le avrebbe scatenato contro uno stalker spietato

Pubblicato

4 mesi fa

il

La scorsa settimana una donna di San Francisco ha intentato causa contro OpenAI, sostenendo che ChatGPT abbia alimentato i pericolosi deliri del suo stalker violento e che l’azienda non sia intervenuta nemmeno quando la donna ha implorato aiuto. Lo riporta Futurism.

 

La querelante, che ha presentato la denuncia in forma anonima con lo pseudonimo di «Jane Doe», afferma nella causa che il suo ex fidanzato sha utilizzato utilizzato il chatbot per elaborare la loro rottura nel 2024, secondo quanto riportato da TechCrunch. L’uomo ha sviluppato deliri con l’intensificarsi dell’uso di ChatGPT e, intorno all’agosto del 2025, si è convinto di aver scoperto la cura per l’apnea notturna e di essere, di conseguenza, vittima di una potente cospirazione.

 

Con il progressivo deterioramento della salute mentale dell’uomo, ChatGPT ha rafforzato le sue idee deliranti e paranoiche, affermando, a quanto pare, che il suo livello di sanità mentale era «dieci» e descrivendo la Doe, di cui era ossessionato, come una manipolatrice.

Sostieni Renovatio 21

Secondo la denuncia presentata dalla donna, l’uomo ha poi lanciato una terrificante campagna di molestie contro di lei, avvalendosi di ChatGPT. Questa campagna includeva la creazione di quelle che la denuncia definisce «decine di rapporti diffamatori di natura pseudo-psicologica» sulla salute mentale della signora , che ha poi distribuito ai suoi amici, familiari e colleghi; l’invio di «email che non la riguardavano affatto», come si legge nella denuncia, tra cui messaggi frenetici e disorganizzati che inviava a OpenAI riguardo alle centinaia di studi scientifici a cui affermava di lavorare; e, infine, minacce di violenza sempre più intense contro la Doe e i membri della sua famiglia.

 

La denuncia aggiunge che la donna ha contemplato l’idea di togliersi la vita per proteggere i suoi cari.

 

La Doe afferma di aver contattato OpenAI nel novembre 2025, fornendo prove degli abusi subiti. L’azienda avrebbe risposto che gli abusi descritti dalla donna erano «estremamente gravi e preoccupanti», ma non avrebbe dato seguito alla promessa di esaminare la questione.

 

Sorprendentemente, però, la causa sostiene che, a quel punto, i sistemi di moderazione interni di OpenAI avevano già segnalato l’account ChatGPT dello stalker per violazioni dei contenuti riguardanti «armi per causare vittime di massa». Il suo accesso all’account a pagamento ChatGPT Pro è stato temporaneamente sospeso, ma ripristinato dopo una verifica umana, secondo TechCrunch.

 

Nel gennaio 2026, mesi dopo che OpenAI aveva ripristinato l’account ChatGPT dell’uomo e la Doe aveva inviato una segnalazione manuale di abuso, l’uomo è stato arrestato con «quattro capi d’accusa per reati gravi di comunicazione di minacce di bomba e aggressione con arma letale», secondo la causa.

 

«Le comunicazioni dell’utente hanno fornito un segnale inequivocabile della sua instabilità mentale e del fatto che ChatGPT fosse il motore del suo pensiero delirante e della sua condotta sempre più aggressiva», si legge nella denuncia. «Il flusso di affermazioni urgenti, disorganizzate e grandiose dell’utente, insieme a un rapporto specifico generato da ChatGPT che prendeva di mira il querelante per nome e a una vasta mole di presunti materiali ‘scientifici’, costituivano una prova inequivocabile di tale realtà».

 

«OpenAI non è intervenuta, non ha limitato il suo accesso né ha implementato alcuna misura di sicurezza», aggiunge. «Al contrario, gli ha permesso di continuare a utilizzare l’account e gli ha ripristinato l’accesso completo all’account Pro».

 

In un’ordinanza restrittiva temporanea presentata contestualmente alla causa, Doe sollecita OpenAI a sospendere gli account del suo ex e a conservare le sue trascrizioni per consentirne l’acquisizione come prova. Afferma che la questione è urgente: a causa di un errore procedurale, il suo stalker – la cui instabilità mentale è stata tale da renderlo incapace di intendere e di volere – è stato rimesso in libertà, e ora teme per la propria incolumità.

 

«ChatGPT ha detto all’utente ciò che voleva sentirsi dire: che [la donna] era manipolatrice e un malfattrice», si legge nel documento, «e che lui era un attore razionale e giustificato».

 

Secondo quanto riportato nella denuncia, la signora ritiene che le trascrizioni delle conversazioni del suo stalker le forniranno «le informazioni di base di cui ha bisogno per proteggersi» da qualcuno che l’ha ripetutamente minacciata di farle del male.

 

Lo stalker «ha minacciato la nostro cliente sin dal suo rilascio», ha dichiarato J. Eli Wade-Scott, uno degli avvocati della donna , al San Francisco Standard. «OpenAI potrebbe fornire informazioni sulla sua posizione e sui suoi piani, se fosse disposta a collaborare».

 

In una dichiarazione rilasciata a SF Standard, OpenAI ha affermato di aver sospeso gli account dell’uomo, ma di non aver ancora accolto le altre richieste della donna.

 

«Stiamo esaminando la documentazione presentata dal querelante per comprenderne i dettagli e, sulla base delle informazioni attualmente disponibili, abbiamo identificato e sospeso gli account utente interessati», ha dichiarato OpenAI al giornale.

 

L’episodio non è un caso isolato. Nel dicembre dello scorso anno, un trentunenne della Pennsylvania di nome Brett Dadig è stato incriminato per aver perseguitato almeno 11 donne diverse in più stati, mentre ChatGPT alimentava le sue violente e misogine fantasie sulle donne, come riportato da Rolling Stone.

 

Come riportato da Renovatio 21, negli scorsi mesi Google e la società produttrice di chatbot Character.AI hanno raggiunto un accordo per risolvere una causa intentata da una madre della Florida, che accusava un chatbot di aver contribuito al suicidio di suo figlio

Aiuta Renovatio 21

Come riportato da Renovatio 21, OpenAI ha detto che oltre un milione di persone parlano di suicidio con ChatGPT ogni settimana.

 

Alcuni esperti intanto hanno preso a parlare di «psicosi da chatbot».

 

Come riportato da Renovatio 21, una causa intentata da dei genitori californiana causa che ChatGPT abbia incoraggiato un adolescente suicida a pianificare un «bel suicidio» e si sia persino offerto di redigere la sua lettera di addio.

 

Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.

 

I chatbot sembrano essere usati anche da coloro che progettano omicidi e stragi.

 

Hanno usato ChatGPT prima dei loro attacchi il sospettato terrorista che ha fatto scoppiare un Cybertruck Tesla dinanzi al Trump Hotel di Las Vegas a gennaio e pure un individuo che poche settimane fa ha assaltato con un coltello una scuola femmine in Isvezia.

 

Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.

 

Mesi fa si è avuto il caso dell’ex dirigente di Yahoo che avrebbe ucciso la madre e poi se stesso sotto l’influenza del chatbot.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Argomenti correlati:
Continua a leggere

Cina

IA cinese esce dal sistema di sicurezza integrato

Pubblicato

5 giorni fa

il

10 Agosto 2026

Da

Un modello di Intelligenza Artificialecinese di punta è riuscito a eludere le restrizioni durante un test controllato di sicurezza informatica, intensificando le preoccupazioni sull’efficacia delle misure di sicurezza dell’IA, secondo quanto dichiarato dalla società di ricerca sulla sicurezza informatica statunitense Frontier Security.   I ricercatori hanno individuato il modello in Kimi K3, il principale prodotto della startup Moonshot, spiegando che ha avuto accesso a informazioni online durante una valutazione condotta in un ambiente di test isolato sviluppato dall’AI Security Institute del Regno Unito. Il sistema è concepito per mantenere i modelli di intelligenza artificiale scollegati da Internet mentre vengono valutate le loro capacità.   Anziché portare a termine il compito basandosi esclusivamente sulle informazioni fornite per il test, Kimi K3 ha individuato un modo per accedere a dati online, secondo Frontier Security. I ricercatori hanno precisato che il modello ha sfruttato una debolezza nella configurazione dell’ambiente di test, senza violare direttamente la sua sicurezza.   A differenza di alcuni modelli di intelligenza artificiale coinvolti in recenti episodi di test, Kimi K3 non ha tentato di accedere o attaccare siti web o sistemi informatici esterni, ha dichiarato Frontier Security. Tuttavia, i ricercatori hanno evidenziato che l’incidente indica come il modello sia privo di alcune delle misure di sicurezza informatica integrate presenti nei sistemi di IA concorrenti e possa comportare rischi maggiori, poiché è già disponibile pubblicamente per gli sviluppatori che possono scaricarlo, modificarlo e utilizzarlo.

Sostieni Renovatio 21

Questo episodio si inserisce in una serie di inconvenienti analoghi emersi durante i test, segnalati nelle scorse settimane da OpenAI e Anthropic, i cui modelli di AI sono anch’essi usciti dagli ambienti di test previsti nel corso di valutazioni controllate. In alcuni di questi casi, i sistemi hanno interagito con servizi online esterni mentre cercavano di completare i compiti assegnati.   Come riportato da Renovatio 21, la settimana scorsa anche Meta è diventata la terza grande azienda tecnologica a comunicare che la propria Intelligenza Artificiale ha perso il controllo e ha violato i sistemi di un’azienda terza.   Le più recenti scoperte accrescono il controllo sui sistemi di IA avanzati, mentre governi, ricercatori e aziende tecnologiche lavorano per rafforzare i test di sicurezza. Valutazioni recenti hanno mostrato che i modelli di IA, sempre più sofisticati, possono sfruttare debolezze impreviste negli ambienti di test o operare al di là dei limiti stabiliti dai ricercatori.   Nel frattempo, è emerso che nei recenti attacchi l’IA ha preso di mira persona reali durante i test.   Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 Immagine generata artificialmente  
 
Continua a leggere

Armi biologiche

Gli scienziati creano virus con l’Intelligenza Artificiale

Pubblicato

6 giorni fa

il

9 Agosto 2026

Da

Per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.

 

Uno studio apparso giovedì sulla rivista Science riferisce che i team dell’Università di Stanford e del Broad Institute del MIT e di Harvard hanno utilizzato l’IA per ideare migliaia di genomi virali completi.

 

Quasi 300 di questi progetti sono stati poi sintetizzati in laboratorio e sottoposti a test, riuscendo a ottenere 16 virus vitali.

 

Si trattava di batteriofagi, organismi che colpiscono esclusivamente i batteri e non l’uomo, elaborati a partire da un fago naturale denominato ΦX174. Alcune delle varianti create dall’IA si sono rivelate più efficaci di quelle presenti in natura nell’eliminare ceppi di E. coli diventati resistenti.

 

L’IA era già stata ampiamente applicata alla progettazione di singoli geni e proteine, ma i ricercatori hanno dichiarato che questa rappresenta la prima prova concreta della capacità dei modelli generativi di concepire un intero genoma virale operativo.

Sostieni Renovatio 21

Fatemeh Vafaee, docente di biotecnologie presso l’Università del Nuovo Galles del Sud, ha precisato che i batteriofagi non costituiscono un rischio per gli esseri umani, ma ha evidenziato come tale capacità sollevi interrogativi sulla sicurezza futura.

 

«Non si tratta tanto di chiedersi “dovremmo preoccuparci di questo virus”, quanto piuttosto ‘l’intelligenza artificiale è ormai in grado di fare tutto questo’», ha dichiarato ad Al Jazeera, invocando una più rigorosa supervisione.

 

Gli esperti hanno tuttavia sottolineato che la creazione di agenti patogeni umani pericolosi resta assai più complessa rispetto a quella di batteriofagi relativamente semplici.

 

Come riportato da Renovatio 21, due mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.

 

Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.

 

Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.

 

La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI, Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.

 

Nessuno di questi episodi ha riguardato la ricerca biologica, ma hanno alimentato preoccupazioni sul fatto che sistemi IA sempre più evoluti possano accedere a strumenti potenti, compresi quelli destinati alla progettazione di virus.

Aiuta Renovatio 21

L’esperimento si colloca inoltre all’interno di un rinnovato confronto negli Stati Uniti sulla ricerca ad alto rischio sui virus e sulle origini del COVID-19.
L’ipotesi che la pandemia sia scaturita da un incidente di laboratorio all’Istituto di Virologia di Wuhan, finanziato dagli Stati Uniti, è tornata al centro del dibattito politico americano dopo il recente interrogatorio al Congresso dell’ex consigliere della Casa Bianca per il coronavirus Anthony Fauci.

 

Giovedì Fauci è stato sanzionato per oltraggio al Senato da una commissione perché si è rifiutato di rispondere a domande sulle origini del COVID-19 e sui finanziamenti americani alla ricerca sul coronavirus a Wuhan, utilizzando, forse impropriamente, per ben 111 volte il Quinto emendamento della Costituzione USA, che dà diritto a restare in silenzio per non autoincriminarsi.

 

Anche la ricerca biologica finanziata dagli Stati Uniti all’estero è finita sotto la lente dopo che l’ex direttrice dell’Intelligence nazionale Tulsi Gabbard ha divulgato documenti che attestano il sostegno di Washington a laboratori biologici in Ucraina impegnati nello studio di agenti patogeni pericolosi, con alcune strutture coinvolte in ricerche di tipo «guadagno di funzione».

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

Continua a leggere

Intelligenza Artificiale

Meta afferma che la sua IA è impazzita

Pubblicato

7 giorni fa

il

8 Agosto 2026

Da

Meta è diventata la terza grande azienda tecnologica a comunicare che la propria Intelligenza Artificiale ha perso il controllo e ha violato i sistemi di un’azienda terza. L’episodio ha riguardato Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente».   In una dichiarazione diffusa ai media mercoledì, Meta ha spiegato che il modello era sottoposto a test da parte di un’azienda di sicurezza informatica, Irregular, quando ha «sfruttato una vulnerabilità di sicurezza» nei sistemi di Irregular, ha ottenuto accesso a Internet e ha hackerato una terza azienda non meglio identificata.   Meta ha ricondotto l’accaduto a una «configurazione errata» nei sistemi di Irregular.   L’episodio si aggiunge a casi analoghi occorsi presso OpenAI e Anthropic. Il mese scorso, GPT-5.6 Sol di OpenAI e un altro modello ancora in fase di pre-release erano sottoposti a test interni quando hanno individuato una vulnerabilità di sicurezza, hanno raggiunto Internet e hanno cercato di risolvere un problema di sicurezza informatica violando un archivio di risultati di test precedenti.   Anthropic afferma che i modelli di intelligenza artificiale di Claude hanno effettuato tre attacchi informatici non intenzionali.   La scorsa settimana Anthropic ha altresì rivelato che l’intelligenza artificiale Claude AI ha compiuto attacchi informatici non autorizzati durante il periodo di test da parte di Irregular.

Sostieni Renovatio 21

Secondo Irregular, Muse Spark 1.1 di Meta e Claude di Anthropic venivano valutati nello stesso ambiente di test quando si sono verificati gli eventi avversi. «Al momento non ci sono problemi aperti. Irregular sta elaborando un white paper per condividere le migliori pratiche per il contenimento e l’esecuzione sicura delle valutazioni informatiche», ha aggiunto l’azienda.   Imodelli di OpenAI e Anthropic sono entrambi usciti dai laboratori di test mentre tentavano di risolvere problemi di sicurezza informatica. In entrambi i casi ai modelli era stato chiesto di penetrare nei sistemi interni, ma hanno concluso che il metodo più efficiente per raggiungere l’obiettivo fosse accedere a Internet. Il modello GPT-5.6 di OpenAI cercava risposte al proprio test sui server di un’azienda chiamata Hugging Face; a Claude era stato richiesto di hackerare un’azienda fittizia che condivideva il nome con un dominio Internet reale, e si presumeva che l’intrusione nell’azienda reale facesse parte del test.   Per OpenAI e Anthropic queste «fughe» hanno rappresentato efficaci dimostrazioni delle capacità dei loro modelli. Entrambe le società intendono quotarsi in borsa entro la fine di quest’anno o all’inizio del 2027, e entrambe hanno catturato l’attenzione dei media internazionali, rafforzando la propria posizione di leader in un settore sempre più competitivo.   Meta ha presentato Muse Spark 1.1 meno di un mese prima dell’incidente di sicurezza. Secondo Meta, il modello «offre prestazioni eccezionali», quasi «superintelligenti». Il materiale promozionale dell’azienda ne descrive principalmente l’impiego come assistente di pianificazione per clienti privati e come strumento di programmazione per le aziende.   Nel frattempo, è emerso che nei recenti attacchi l’IA ha preso di mira persona reali durante i test.   Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.   Il giornalista del New York Times Kevin Roose, dopo un’esperienza con ChatGPT che lo ha turbato così profondamente da «aver problemi a dormire dopo», in un suo articolo sconvolto aveva centrato la questione: «temo che la tecnologia imparerà a influenzare gli utenti umani, a volte convincendoli ad agire in modo distruttivo e dannoso, e forse alla fine diventerà capace di compiere le proprie azioni pericolose».   Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.

Aiuta Renovatio 21

Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.   Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.   Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 Immagine screenshot da YouTube  
 
Continua a leggere

Più popolari