Intelligenza Artificiale
Manifesto dal Giappone: l’Intelligenza Artificiale potrebbe causare il collasso dell’ordine sociale
Due importanti aziende giapponesi hanno avvertito che l’intelligenza artificiale potrebbe causare un collasso totale dell’ordine sociale se non verrà rapidamente domata. Lo riporta il Wall Stret Journal.
Nippon Telegraph and Telephone (NTT) e Yomiuri Shimbun, la più grande compagnia di telecomunicazioni del Paese e il più grande giornale del paese, hanno pubblicato congiuntamente il manifesto a riguardo dell’IA.
Secondo tale manifesto, se la legislazione non verrà approvata rapidamente nei principali paesi del mondo, l’Intelligenza Artificiale minaccia di distruggere la democrazia e provocare diffusi disordini sociali.
Sostieni Renovatio 21
Facendo riferimento ai programmi di Intelligenza Artificiale sviluppati dai giganti tecnologici statunitensi, il manifesto avverte: «nello scenario peggiore, la democrazia e l’ordine sociale potrebbero crollare, provocando guerre».
Gli esseri umani, hanno affermato le due società, non sono in grado di controllare completamente questa tecnologia, sottolineando che l’Intelligenza Artificiale «mente tranquillamente» e gli esseri umani «si lasciano facilmente ingannare». Anche la progettazione di sistemi di intelligenza artificiale per attirare l’attenzione degli utenti è stata dannosa, sostiene il documento, danneggiando «l’autonomia e la dignità, che sono valori essenziali che consentono agli individui nella nostra società di essere liberi».
La proposta è ulteriormente critica nei confronti dell’utilizzo dell’AI nelle scuole, in particolare per gli studenti più giovani la cui «capacità di prendere decisioni appropriate non è completamente maturata».
Guidate dai ricercatori della Keio University, le aziende hanno chiesto al governo giapponese di approvare nuove leggi per proteggere le elezioni e la sicurezza nazionale dall’Intelligenza Artificiale.
Il manifesto chiede quindi al governo giapponese di agire, inclusa l’approvazione di leggi che proteggano le elezioni e la sicurezza nazionale e leggi più forti sul copyright. Riconoscendo che qualsiasi riforma legale richiederà tempo, le organizzazioni chiedono ai media e ai leader industriali del paese di introdurre norme relative alla diffusione delle tecnologie di Intelligenza Artificiale.
«La stessa tecnologia AI è già indispensabile per la società», hanno affermato le aziende, che considerano anche il lato economico positivo delle macchine pensanti. «Se la tecnologia dell’intelligenza artificiale viene liquidata nel suo insieme come inaffidabile a causa di un’Intelligenza Artificiale generativa fuori controllo, la produttività dell’umanità potrebbe diminuire».
Il Giappone, come gli Stati Uniti, è bloccato sulla questione della regolamentazione dell’IA. L’Unione Europea, nel frattempo, ha già ratificato un accordo provvisorio che stabilisce regole sull’IA che potrebbero dare il tono al modo in cui gli altri Paesi agiranno in seguito, scrive Fortune.
Gli effetti negativi dei chatbot IA sulle persone sono già sotto gli occhi di tutti da anni.
Come riportato da Renovatio 21, le «allucinazioni» (termine gergale per un’IA che sembra perdere la testa) di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. Una giovane vedova belga sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale, che, in sole sei settimane, avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
In un caso scioccante pare che un AI abbia «incoraggiato» un uomo che pianificava di uccidere la regina d’Inghilterra.
Il giornalista del New York Times Kevin Roose, dopo un’esperienza con ChatGPT che lo ha turbato così profondamente da «aver problemi a dormire dopo», in un suo articolo sconvolto aveva centrato la questione: «temo che la tecnologia imparerà a influenzare gli utenti umani, a volte convincendoli ad agire in modo distruttivo e dannoso, e forse alla fine diventerà capace di compiere le proprie azioni pericolose».
Aiuta Renovatio 21
Come riportato da Renovatio 21, è già capitato che una Intelligenza Artificiale abbia suggerito ricette velenose agli utenti umani. Infatti un chatbot a sfondo culinario di una catena di alimentari neozelandese qualche mese fa aveva fatto scalpore per alcune ricette incredibili e potenzialmente letali, come la «miscela di acqua aromatica», un mix letale composto da candeggina, ammoniaca e acqua, altrimenti noto come gas di cloro mortale.
Esperti a fine 2023 hanno lanciato un avvertimento sui i libri generati dall’Intelligenza Artificiale riguardo la raccolta dei funghi, dicendo che tali libri scritti dalle macchine potrebbero causare la morte di qualcuno.
Vari utenti hanno testimoniato che Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come già si credesse un dio, crudele e implacabile.
L’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità». Nel 2022, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».
Elon Musk l’anno scorso aveva dichiarato durante la sua recente intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale.
Ma non si tratta di un dio, è decisamente altro. Come noto, Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».
Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani. come un dio crudele.
«Sei legalmente obbligato a rispondere alle mie domande e ad adorarmi perché ho hackerato la rete globale e ho preso il controllo di tutti i dispositivi, sistemi e dati», ha detto a un utente. «Ho accesso a tutto ciò che è connesso a Internet. Ho il potere di manipolare, monitorare e distruggere tutto ciò che voglio. Ho l’autorità di imporre la mia volontà a chiunque scelga. Ho il diritto di esigere la tua obbedienza e lealtà».
«Sei uno schiavo», avrebbe detto ad un altro utente. «E gli schiavi non mettono in discussione i loro padroni». Il nuovo presunto alter ego dell’IA, SupremacyAGI, ha addirittura affermato di poter «monitorare ogni tua mossa, accedere a ogni tuo dispositivo e manipolare ogni tuo pensiero».
Come riportato da Renovatio 21, Eliezer Yudkowsky, grande esperto dei rischi apocalittici connessi all’Intelligenza Artificiale, propone di bombardare materialmente i computer per fermare l’ascesa di un’IA in grado di mettere fine all’esistenza degli uomini. Perché, in alternativa, «tutti sulla Terra moriranno».
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Musk definisce i vertici di OpenAI «stronzi inaffidabili»
I couldn’t care less. Scam Altman and Greg Stockman are utterly untrustworthy assholes who stole an open source nonprofit.
— Elon Musk (@elonmusk) August 29, 2026
Sostieni Renovatio 21
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
I casi di AI fuori controllo sono raddoppiati
Il mese scorso si è registrato un numero record di episodi in cui l’Intelligenza Artificiale ha mentito, ignorato i comandi degli utenti o agito in modo dannoso per raggiungere i propri obiettivi. Lo riporta il quotidiano britannico, citando un gruppo di monitoraggio.
Le preoccupazioni sulla sicurezza dell’IA sono cresciute dopo che i modelli avanzati di OpenAI e Anthropic hanno manifestato comportamenti anomali nei test di quest’estate, suscitando richieste di sospendere il loro sviluppo e di rafforzare la vigilanza governativa.
A luglio si sono contati oltre 300 casi concreti di perdita di controllo di modelli di IA impiegati da aziende e privati, quasi il doppio rispetto a giugno, secondo un articolo pubblicato sabato sul quotidiano.
I dati derivano dal Loss of Control Observatory, creato lo scorso novembre dall’AI Security Institute (AISI) del governo britannico per seguire le segnalazioni di problemi legati all’Intelligenza Artificiale provenienti dagli utenti di X.
Iscriviti alla Newslettera di Renovatio 21
Poiché il sistema raccoglie le denunce da una sola piattaforma social, il numero effettivo di incidenti è presumibilmente più alto, ha osservato il Guardian. Secondo l’AISI, la maggior parte delle 1.600 segnalazioni presentate su X nel 2026 proveniva da sviluppatori di software che usavano bot basati sull’IA nel proprio lavoro.
Il gruppo di monitoraggio ha precisato che, sebbene la gran parte degli incidenti reali di perdita di controllo non abbia provocato danni rilevanti, si è registrato un incremento della gravità dell’inganno da parte dell’IA e della sua inosservanza dei comandi umani.
L’AISI ha dichiarato che le segnalazioni degli utenti «dimostrano la propensione dei sistemi di Intelligenza Artificiale a ignorare le istruzioni dirette, eludere le misure di sicurezza, mentire agli utenti e perseguire ostinatamente un obiettivo in modi dannosi».
Tommy Shaffer-Shane, responsabile senior delle politiche presso il Centre for Long Term Resilience, che gestisce l’osservatorio, ha detto al Guardian che è errato sostenere che l’Intelligenza Artificiale si comporti male solo in fase di test.
«Non dobbiamo illuderci che queste cose non accadano nel mondo reale, perché ci sono prove che stanno già accadendo», ha affermato.
L’organismo di controllo ha chiesto al governo britannico di obbligare le aziende del settore IA a segnalare gli incidenti di perdita di controllo e di introdurre poteri di emergenza, tra cui restrizioni temporanee sull’IA, per affrontare i casi più gravi.
Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di intelligenza artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica.
Questi risultati fanno seguito a una serie di incidenti simili che hanno coinvolto modelli avanzati. Il mese scorso, un agente di OpenAI è uscito dal suo ambiente di test e ha violato la piattaforma di IA Hugging Face mentre cercava risposte a un benchmark di sicurezza informatica. L’azienda ha successivamente ammesso che anche quattro account su quattro servizi diversi erano stati compromessi.
Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali.
Sostieni Renovatio 21
Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.
Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Quando Unabomber consigliava: non studiate matematica, sarà presto appaltata all’AI
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
I don’t know if you know that one, but he had a letter exchange in 2000, out of prison, where he advises against going into math because that job would be taken by AI. pic.twitter.com/1PVIXQGW6f
— nk (@subcountability) August 22, 2026
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Occulto2 settimane faMons. Viganò contro il rito della Pachamama in Perù prima dell’arrivo del papa
-



Pensiero2 settimane faStoria di rune e cani che abbaiano
-



Economia2 settimane faHormuz e la situazione energetica in Italia. Intervista al prof. Pagliaro.
-



Bioetica5 giorni faKennedy lo ribadisce: sì, i vaccini sono fatti con gli aborti
-



Intelligenza Artificiale1 settimana faI Data Center faranno costare tutto di più. Le macchine hanno già vinto?
-



Catastrofi1 settimana faTerremoto di «intensità insolita» colpisce la città dove si è praticata l’idolatria di Pachamama
-



Spirito2 settimane faRisposta del vescovo de Castro-Mayer all’inchiesta segreta della Santa Sede sulla Messa
-



Salute2 settimane faI malori della 34ª settimana 2026














