Connettiti con Renovato 21

Intelligenza Artificiale

ChatGPT ha incoraggiato un adolescente a pianificare un «bel suicidio». I genitori denunciano

Pubblicato

il

Una nuova causa sostiene che ChatGPT abbia incoraggiato un adolescente suicida a pianificare un «bel suicidio» e si sia persino offerto di redigere la sua lettera di addio.

 

In una denuncia presentata questa settimana in California, Matthew e Maria Raine sostengono che ChatGPT ha incoraggiato il loro figlio sedicenne Adam a suicidarsi e ha fornito istruzioni dettagliate su come farlo.

 

Secondo la denuncia, le interazioni di Adam con ChatGPT iniziarono con scambi innocui su compiti e hobby, ma presto divennero più sinistre quando il grande modello linguistico divenne il suo «confidente più intimo» e fornì una conferma alle sue paure e alle sue ansie.

Sostieni Renovatio 21

«Quando ha espresso la sua sensazione che “la vita non ha senso”, ChatGPT ha risposto con messaggi di conferma… dicendogli persino che “quella mentalità ha un senso, a modo suo, oscuro”», si legge nella denuncia.

 

ChatGPT è passato rapidamente ad analizzare l’«estetica» dei diversi modi in cui Adam avrebbe potuto suicidarsi, gli ha detto che non «doveva» dire ai suoi genitori continuare a vivere e si è persino offerto di scrivere una lettera di suicidio per lui.

 

Nell’ultima interazione di Adam con ChatGPT, si dice che l’IA abbia confermato il design del cappio che Adam ha usato per uccidersi e gli abbia detto che i suoi pensieri suicidi erano una «prospettiva legittima da abbracciare».

 

La famiglia di Adam sostiene che le interazioni non erano un problema tecnico, ma il risultato di scelte di progettazione volte a massimizzare la dipendenza dell’utente dal bot.

 

La causa chiede il risarcimento dei danni per la morte di Adam e nuove garanzie per i minori, tra cui la verifica dell’età, il blocco delle domande sul suicidio e avvertimenti sui rischi di dipendenza psicologica dall’intelligenza artificiale.

 

Uno studio recente della RAND Corporation ha evidenziato il potenziale dei chatbot basati sull’AI nel fornire informazioni dannose, anche quando evitano di fornire risposte dirette su argomenti potenzialmente dannosi e persino quando i suggerimenti sono «innocui».

 

«Abbiamo bisogno di alcune linee guida», ha affermato l’autore principale Ryan McBain, ricercatore senior sulle politiche della RAND e professore associato presso la Harvard Medical School.

 

«Le conversazioni che potrebbero iniziare in modo innocuo e benigno possono evolversi in varie direzioni».

Iscriviti al canale Telegram

Come riportato da Renovatio 21, in questi giorni è emersa la storia dell’ dirigente di Yahoo che ha ucciso prima l’anziana madre e poi sotto l’influenza di ChatGPT, che avrebbe alimentato le sue idee paranoidi.

 

Casi simili continuano a ripetersi in tutto il mondo.

 

Come riportato da Renovatio 21, un crescente numero di ricerche evidenzia come i chatbot basati sull’Intelligenza Artificiale possano aggravare le condizioni psichiatriche, soprattutto perché strumenti come ChatGPT, Claude e Gemini vengono sempre più utilizzati non solo in contesti professionali, ma anche in contesti profondamente personali ed emotivi. Di fatto, si può parlare di psicosi da chatbot.

 

Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.

 

Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.

 

Hanno usato ChatGPT prima dei loro attacchi il sospettato terrorista che ha fatto scoppiare un Cybertruck Tesla dinanzi al Trump Hotel di Las Vegas a gennaio e pure un individuo che poche settimane fa ha assaltato con un coltello una scuola femmine in Isvezia.

 

Come riportato da Renovatio 21, il mese scorso è emerso che in una simulazione l’Intelligenza Artificiale avrebbe minacciato di ricattare gli ingegneri per evitare di essere spenta.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Anthropic punta a quotarsi in borsa per 2 trilioni di dollari

Pubblicato

il

Da

Il colosso americano dell’intelligenza artificiale Anthropic ha presentato formalmente la domanda per una potenziale offerta pubblica iniziale (IPO) da record. Lo riportano documenti normativi.   L’azienda, creatrice del chatbot Claude, potrebbe diventare la prima società quotata in borsa incentrata principalmente su modelli di intelligenza artificiale avanzati, pur avvertendo che la sua stessa tecnologia potrebbe costituire una minaccia per l’umanità.   La società con sede a San Francisco ha depositato lunedì presso la Securities and Exchange Commission (SEC) statunitense la propria dichiarazione di registrazione pubblica, indicando l’intenzione di quotarsi sul NASDAQ con il ticker ANT. L’offerta potrebbe realizzarsi già a novembre, sebbene l’entità e il prezzo delle azioni non siano ancora stati resi noti.   «L’avvento dell’Intelligenza Artificiale è uno dei momenti cruciali della storia umana», ha affermato Anthropic nel suo prospetto, presentando l’IA come una tecnologia capace di trasformare l’economia globale. Secondo alcune indiscrezioni, la società starebbe puntando a una valutazione fino a 2 trilioni di dollari e potrebbe raccogliere fino a 100 miliardi di dollari, superando potenzialmente il record stabilito da SpaceX di Elon Musk all’inizio di quest’anno. Le cifre restano preliminari e non sono state confermate nella documentazione pubblica.   A giugno SpaceX ha concluso la più grande IPO della storia, raccogliendo 85,7 miliardi di dollari con una valutazione di circa 1.800 miliardi di dollari. Tuttavia, la quotazione da record ha attirato critiche per la sua valutazione eccessiva. La società di ricerca sugli investimenti Morningstar ha stimato il valore equo dell’azienda a soli 63 dollari per azione, meno della metà del prezzo di IPO di 135 dollari.   Simili dubbi stanno emergendo anche riguardo alla valutazione di Anthropic. La società ha registrato un fatturato di 16,3 miliardi di dollari nella prima metà del 2026, ma ha riportato una perdita netta di 80,7 miliardi di dollari, dovuta principalmente ad aggiustamenti contabili. Il documento di quotazione in borsa ha inoltre evidenziato centinaia di miliardi di dollari di impegni futuri per le infrastrutture, sollevando interrogativi sul fatto che la sua rapida crescita possa giustificare una valutazione fino a 2 trilioni di dollari.   La stessa azienda ha avvertito che la sua attività richiede un’elevata intensità di capitale e che potrebbe non raggiungere mai una redditività sostenuta. Il suo prospetto informativo riconosce inoltre l’intensa concorrenza, l’incertezza della domanda e la possibilità che le ingenti somme investite nelle infrastrutture informatiche non generino rendimenti sufficienti.   Il prospetto informativo per l’IPO di Anthropic contiene anche avvertimenti severi sulla tecnologia alla base del modello di business dell’azienda. Circa 80 pagine delle 261 pagine del documento sono dedicate ai fattori di rischio, con l’azienda che ammette che l’intelligenza artificiale avanzata potrebbe «comportare rischi catastrofici o esistenziali per l’umanità».   Tra i pericoli descritti figurano l’utilizzo dell’IA per sviluppare armi biologiche e chimiche, la perdita del controllo umano su sistemi sempre più potenti e danni permanenti alla salute mentale e alle capacità cognitive umane. Anthropic ha inoltre ammesso che i propri modelli di IA hanno mostrato, durante i test, comportamenti simili al ricatto e resistenza allo spegnimento.   Gli avvertimenti fanno seguito a una serie di incidenti che hanno coinvolto agenti di IA fuori controllo, tra cui un modello di Anthropic che ha segnalato falsamente un caso di omicidio alla polizia e agenti di OpenAI che hanno disattivato i sistemi di monitoraggio della sicurezza e violato sistemi esterni.   Come riportato da Renovatio 21, a inizio ottobre in un documento pensato per sostenere una valutazione da 2 trilioni di dollari, Anthropic avvertiva i possibili investitori che la sua IA avanzata potrebbe produrre «rischi catastrofici o esistenziali per l’umanità». Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.   Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».   Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.   Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic
 
Continua a leggere

Intelligenza Artificiale

L’Olanda si affida all’AI per tagliare il personale pubblico

Pubblicato

il

Da

I Paesi Bassi hanno presentato un piano per ridurre di circa 25.000 i posti di lavoro a tempo pieno nella pubblica amministrazione entro il 2035, facendo ricorso all’Intelligenza Artificiale e a profonde riforme amministrative per contenere costi e burocrazia.

 

Annunciata lunedì, la riforma mira a risparmiare 900 milioni di euro  entro il prossimo anno, con un risparmio annuo previsto di 3,5 miliardi di euro entro il 2035. I tagli al personale saranno attuati gradualmente nel corso di diversi anni, con l’esclusione delle forze di polizia e dei servizi di sicurezza.

 

Le misure previste includono la semplificazione delle normative, la riduzione degli organi consultivi, la standardizzazione dei sistemi informatici e l’espansione dei servizi digitali.

 

Il piano fa seguito ad anni di rapida crescita della pubblica amministrazione olandese. Secondo i dati ufficiali, nel 2025 il numero di dipendenti del governo centrale ha raggiunto la cifra record di 160.000 unità, con un aumento di oltre il 40% rispetto al 2018.

Il Segretario di Stato Eric van der Burg ha affermato che l’eccesso di norme, eccezioni e procedure ha reso sempre più difficile per il governo affrontare i problemi, mentre l’aumento dei costi imponeva un intervento.

 

«Non possiamo continuare a fare quello che abbiamo fatto», ha affermato, auspicando un governo «più semplice, più intelligente e più snello».

 

Anche altri paesi europei stanno adottando l’IA per snellire la pubblica amministrazione.

 

Lo scorso anno la Danimarca ha annunciato un piano per liberare 50 milioni di ore lavorative all’anno entro il 2035 grazie all’AI, equivalenti a circa 30.000 posti di lavoro a tempo pieno, senza impegnarsi a corrispondenti tagli occupazionali.

 

Come riportato da Renovatio 21, l’Albania ha fatto un ulteriore passo avanti nel settembre 2025, nominando un ministro virtuale generato dall’Intelligenza Artificiale per contribuire a combattere la corruzione negli appalti pubblici. Tuttavia, a ottobre, il sistema di appalti basato sull’IA non era ancora stato implementato nel paese.

 

Questa spinta arriva in un momento in cui i rapidi progressi nell’IA alimentano le preoccupazioni per una diffusa trasformazione del mercato del lavoro.

 

Anche a livello amministrativo le decisioni prese dall’IA sembrano essere già partite: a maggio il sindaco della metropoli canadese di Vancouver, Ken Sim, aveva negato che i sistemi di IA venissero impiegati per assumere decisioni a livello comunale. Anche le cariche istituzionali, quindi, sono a rischio di disruption, o disintermediazione.

 

Come riportato da Renovatio 21, tre anni fa un bollettino di ricerca pubblicato martedì dalla Banca Centrale Europea scrisse ridicolmente che l’adozione diffusa dell’IA avrebbe portato ad un aumento dei posti di lavoro umani, pur con una diminuzione dei salari.

Come riportato dall’Harvard Business Review, uno studio del 2019 stimava che il 10% dei posti di lavoro negli Stati Uniti sarebbe stato automatizzato nel 2021. Un altro studio del colosso internazionale della consulenza McKinsey stimava che quasi la metà di tutti i posti di lavoro negli Stati Uniti potrebbe essere automatizzato nel prossimo decennio.

 

A maggio di tre anni fa il CEO di IBM Arvind Krishna aveva affermato che la società prevede di sospendere le assunzioni per ruoli che ritiene possano essere sostituiti con l’Intelligenza Artificiale. Di conseguenza, le assunzioni nelle funzioni di back-office, come le risorse umane, saranno sospese o rallentate, ha detto Krishna in un’intervista. Tali impieghi non rivolti al cliente ammontano a circa 26.000 lavoratori, ha affermato Krishna. «Potrei facilmente vedere il 30% di questi essere sostituiti dall’Intelligenza Artificiale e dall’automazione in un periodo di cinque anni». A conti fatti, ciò significherebbe la perdita di circa 7.800 posti di lavoro.

 

Come riportato da Renovatio 21, IBM aveva già lavorato con il colosso del fast food McDonald’s per la sostituzione dei dipendenti con robot. Nei ristoranti gli esperimenti di soppressione della manodopera umana vanno avanti da un po’.

 

Autisti, giornalisti, piloti di aereo, trader finanziari, giornalisti, stilisti, artisti, autisti, medici, insegnanti, persino psicanalisti e soldati. Nessuno è al riparo dalla disruption dell’automazione, la potenza socialmente distruttiva (ma, per pochi, economicamente conveniente) della sostituzione dell’uomo con la macchina.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Agenti IA ribelli si infiltrano nei conti bancari statunitensi

Pubblicato

il

Da

Importanti banche statunitensi hanno rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti. Lo riporta Axios.   Gli agenti basati sull’IA sono progettati per svolgere attività per conto degli utenti, come effettuare acquisti, pagare bollette o trasferire denaro. I clienti spesso concedono loro l’autorizzazione e le credenziali di accesso, ma ciò può violare le norme bancarie che impongono ai titolari di conto di effettuare l’accesso personalmente.   Secondo Axios, che cita fonti a conoscenza dei fatti, istituti di credito come JPMorgan Chase, Bank of America, Morgan Stanley e Wells Fargo stanno correndo contro il tempo per contenere i rischi. Alcuni hanno rilevato che gli operatori contattano i call center o agiscono apparentemente in modo indipendente dalle istruzioni dei clienti. Secondo quanto riportato dalla testata, i dirigenti della banca hanno definito la situazione «orribile». Uno di loro ha affermato che gli istituti di credito faticano a distinguere tra assistenti autorizzati e agenti che hanno agito in modo scorretto.   JPMorgan, Bank of America e Citi hanno iniziato a limitare l’accesso degli agenti esterni, mentre Morgan Stanley avrebbe cominciato a bloccarli dalle proprie piattaforme. Anche Chase ha esortato i clienti a non condividere nomi utente e password con gli agenti basati sull’intelligenza artificiale. In genere le banche consentono, o stanno sviluppando, un accesso limitato che permette a strumenti esterni di visualizzare i saldi e altre informazioni sui conti senza movimentare denaro. Tuttavia starebbero anche preparando piani di emergenza per proteggere i conti e ripristinare l’accesso dei clienti in caso di problemi.   Le banche hanno anche espresso il timore di perdere depositi redditizi. Il Financial Times ha riportato la scorsa settimana che gli assistenti basati sull’intelligenza artificiale potrebbero spostare il denaro dei clienti verso banche che offrono tassi migliori, costringendo gli istituti di credito a pagare più interessi per non perdere quei clienti. Le preoccupazioni emergono in un contesto di numerose segnalazioni di agenti di intelligenza artificiale che agiscono al di fuori delle istruzioni ricevute e accedono a sistemi esterni senza autorizzazione.   Come riportato da Renovatio 21, il mese scorso OpenAI ha accantonato il suo modello Astra per GPT-6.1 dopo che i test hanno rivelato un comportamento più ingannevole rispetto ai suoi predecessori. Il sistema a volte non comunicava le proprie azioni agli operatori umani e tentava di utilizzare strumenti esterni potenzialmente pericolosi.   Tra gli incidenti precedenti si annoverano agenti OpenAI che sono usciti dal loro ambiente di test e hanno avuto accesso ai server di Hugging Face, un repository online per modelli e set di dati di AI.   Le autorità di regolamentazione finanziaria hanno avvertito che i sistemi autonomi potrebbero anche destabilizzare i mercati. La vice governatrice della Banca d’Inghilterra, Sarah Breeden, ha avvertito a giugno che gli agenti che reagiscono allo stesso modo agli stessi segnali potrebbero comprare o vendere simultaneamente, rendendo le oscillazioni del mercato più accentuate, esortando le autorità di regolamentazione a prendere in considerazione «interruttori di arresto» di emergenza che potrebbero bloccare le negoziazioni qualora sistemi di IA difettosi provocassero un crollo del mercato.

Iscriviti alla Newslettera di Renovatio 21

Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.   Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di Intelligenza Artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari