Intelligenza Artificiale
L’AI «probabilmente» annienterà l’umanità: parlano gli scienziati di Oxford e Google
I ricercatori di Google Deepmind e dell’Università di Oxford hanno concluso che esistono delle probabilità che una Intelligenza Artificiale (AI) superintelligente segnerà la fine dell’umanità; uno scenario decisamente inquietante che sempre più persone esperte cominciano ad ipotizzare.
In un recente articolo pubblicato sulla rivista AI Magazine, il team composto dallo scienziato senior di DeepMind, Marcus Hutter, e dai ricercatori di Oxford, Michael Cohen e Michael Osborne, sostengono che le macchine alla fine saranno incentivate a infrangere le regole impostate dai loro creatori per competere nella ricerca di risorse ed energia.
«Nelle condizioni che abbiamo identificato, la nostra conclusione è molto più forte di quella di qualsiasi pubblicazione precedente: una catastrofe esistenziale non è solo possibile, ma probabile», ha twittato all’inizio di questo mese Cohen, studente di ingegneria dell’Università di Oxford e coautore dell’articolo.
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
Nel documento i ricercatori sostengono che l’umanità potrebbe affrontare il suo destino sotto forma di «agenti disallineati» super avanzati che percepiscono l’umanità come un ostacolo ai loro progetti e sviluppi.
«Un buon modo per un agente di mantenere il controllo a lungo termine della sua ricompensa è eliminare potenziali minacce e utilizzare tutta l’energia disponibile per proteggere il proprio computer», si legge nel documento. «Perdere questo gioco sarebbe fatale».
I ricercatori sostengono che non c’è molto che possano fare al riguardo. «In un mondo con risorse infinite, sarei estremamente incerto su cosa potrebbe succedere», ha detto il Cohen in un’intervista a Motherboard. «In un mondo con risorse limitate, c’è una competizione inevitabile per queste risorse».
«E se sei in una competizione con qualcosa in grado di ingannarti ad ogni turno, allora non dovresti aspettarti di vincere», ha aggiunto.
In risposta a questa ipotetica minaccia, l’umanità dovrebbe far progredire lentamente e con attenzione le sue tecnologie di Intelligenza Artificiale. Se queste ipotesi fossero veritiere, «un agente artificiale sufficientemente avanzato potrebbe intervenire nella fornitura di informazioni sugli obiettivi, con conseguenze catastrofiche», avverte il documento.
Inoltre il ricercatore a capo di OpenAI ha recentemente dichiarato che l’Intelligenza Artificiale potrebbe già essere stata in grado di prendere coscienza. Ilya Sutskever, scienziato capo del gruppo di ricerca OpenAI – una organizzazione ora divenuta a scopo di lucro inizialmente dedicata allo sviluppo di una IA «benevola» che possa giovare all’umanità invece che distruggerla – aveva twittato che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».
Un altro progetto chiamato DALL-E2, un sistema di Intelligenza Artificiale testo-immagine realizzato da Open AI, parrebbe aver creato un proprio linguaggio scritto. È ciò che sostiene Giannis Daras, uno studente di dottorato in informatica presso l’Università del Texas ad Austin.
DALL-E2 ha fatto un salto evolutivo all’inizio di quest’anno con la sua straordinaria capacità di trasformare i messaggi di testo in immagini fotorealistiche con tanto di stile artistico e ora sembra che possa essere ancora più potente e inquietante di quanto si potesse immaginare, in quanto pare sia in grado di generare un proprio codice segreto.
Previsioni altrettanto sinistre vengono da Mo Gawdat, ex Chief Business Officer per l’organizzazione sperimentale di Google, in una intervista rilasciata al giornale britannico The Times.
L’uomo della Silicon Valley ha dichiarato che crede che la cosiddetta Intelligenza Artificiale generale (AGI), il tipo di AI onnipotente e senziente vista nella fantascienza sia inevitabile e che una volta che sarà qui, l’umanità potrebbe benissimo ritrovarsi in un’apocalisse provocata da macchine simili a delle divinità.
Si tratta, in pratica, dello scenario «Skynet» – l’Intelligenza Artificiale che nella storia di Terminator assume il controllo della Terra reputando l’uomo come minaccia.
Il Gawdat ha detto al Times di aver avuto la sua spaventosa rivelazione mentre lavorava con gli sviluppatori di intelligenza artificiale di Google X che stavano costruendo bracci robotici in grado di trovare e raccogliere una pallina.
Dopo un periodo di lenti progressi, Gawdat ha detto che un braccio ha afferrato la palla e sembrava tenerla sollevata verso i ricercatori in un gesto che, a lui, sembrava un gesto di esibizione.
Come riportato da Renovatio 21, sono vari le voci che si stanno levando per neutralizzare la minaccia di una Intelligenza Artificiale assassina. Secondo alcuni osservatori, le armi autonome potrebbero essere più destabilizzanti di quelle nucleari.
L’Intelligenza Artificiale è oramai montata, con diversi gradi di realizzazione, su droni, caccia, armi teleguidate, carrarmati, «slaughterbots» e altro ancora.
Una moratoria ONU sui robot killer non ha trovato al momento l’accordo dei vari Paesi.
Nel frattempo, su questo sito testimoniamo spesso di come robot e AI stanno di fatto sostituendo i dipendenti umani perfino nei fast food.
Come riportato dall’Harvard Business Review, uno studio del 2019 stimava che il 10% dei posti di lavoro negli Stati Uniti sarebbe stato automatizzato quest’anno. Un altro studio del colosso internazionale della consulenza McKinsey stimava che quasi la metà di tutti i posti di lavoro negli Stati Uniti potrebbe essere automatizzato nel prossimo decennio.
Intelligenza Artificiale
L’ex ministro della difesa ucraina lancia un’azienda finanziata da Palantir
L’ex ministro della Difesa ucraino Mikhaylo Fedorov ha annunciato il lancio di una nuova società di tecnologia militare, di cui Alex Karp, CEO di Palantir, sarà il principale investitore.
Da quando il presidente ucraino Volodymyr Zelens’kyj lo ha rimosso dall’incarico a metà luglio, in seguito a presunte tensioni con l’allora comandante in capo Aleksandr Syrsky, il Fedorov è rimasto molto attivo nel mondo degli affari e della politica. L’ex ministro ha inoltre assunto un atteggiamento sempre più critico nei confronti dello Zelensk’yj (del quale aveva curato le campagne web), sostenendo di essere stato rimosso a causa della sua lotta alla corruzione e chiedendo elezioni, ripetutamente rinviate durante il periodo di legge marziale.
La scorsa settimana, Fedorov è emerso inaspettatamente come consigliere per le «innovazioni in materia di difesa» del ministro della Difesa italiano Guido Crosetto, affermando che il suo ruolo consisterà nell’aiutare Roma a «sviluppare tecnologie belliche moderne» e a «migliorare il settore della difesa».
Questa settimana, Fedorov ha annunciato la creazione di «una nostra società di tecnologia per la difesa» con l’amministratore delegato di Palantir, la famigerata azienda statunitense di data mining e tecnologia militare che fornisce soluzioni di Intelligenza Artificiale all’esercito ucraino, destinato a diventare il suo principale investitore. Fedorov ha condiviso un video del suo incontro con Karp, in cui il magnate della tecnologia elogia l’ex ministro.
🇺🇦🇺🇸‼️🚨 Former defense minister of Ukraine is now a startup founder with Palantir CEO as the first investor.
Mykhailo Fedorov now starts a defense company with Palantir CEO Alex Karp as a first major investor.
Karp and Fedorov work closely together for a while and this is just… https://t.co/SJrxV9q3UM pic.twitter.com/GVle6VHZVJ
— Lord Bebo (@MyLordBebo) September 1, 2026
Sostieni Renovatio 21
«Abbiamo lavorato insieme per cinque anni. Sono rimasto profondamente colpito da ciò che tu e gli ucraini avete realizzato e sono estremamente lieto di aver potuto dare il nostro contributo. Tu e i tuoi colleghi state lanciando un’azienda che, a mio avviso, sarà un punto di riferimento a livello mondiale, mettendo a disposizione dei paesi alleati la vostra conoscenza e la vostra competenza nell’arte della guerra», ha detto il Karp al Fedorov.
I legami tra il Fedorov e il Karp risalgono a ben prima dei sei mesi in cui l’ex ministro ha ricoperto la carica di ministro della Difesa. Prima di assumere tale incarico a metà febbraio, il Fedorov ha supervisionato la trasformazione digitale dell’Ucraina in diverse posizioni. Subito dopo la sua rimozione dall’incarico, il Fedorov ha affermato di aver ricevuto un’offerta di lavoro dal Karp.
Come riportato da Renovatio 21, il ministro Fedorov fu a capo del lancio del sistema di identificazione digitale ucraino, con l’app Diia, lanciata a Kiev pochi giorni prima del conflitto, con il nome di Diia, che consentiva di interfaccia tra il cittadino e lo Stato e di fungere da «portafogli elettronici», nel quale lo Stato versava 40 dollari ad avvenuta vaccinazione COVID.
Parimenti, da ministro del digitale il Fedorov aveva promesso che il governo ucraino e le aziende dette «Big Tech» sarebbero divenuti «strettamente interconnessi», e che ciò trasformerà il Paese in «un Israele europeo», invocando la fiducia nell’archiviazione dei dati sui server delle aziende Big Tech, come Amazon e Microsoft, i quali a suo dire «non possono essere distrutti dai missili».
Fedorov era quindi entrato nel governo nel 2019 con il background della trasformazione digitale e si era legato strettamente alla guerra con i droni di Kiev e alla rapida integrazione di tecnologie civili nelle operazioni militari. Dopo aver assunto la guida del ministero della Difesa a gennaio, aveva intensificato i rapporti dell’Ucraina con Palantir, azienda statunitense controversa attiva nel data mining e nelle tecnologie militari.
Durante un incontro tenutosi a maggio con l’amministratore delegato di Palantir, Alex Karp, Fedorov aveva discusso dell’ampliamento della cooperazione in ambito di Intelligenza Artificiale, analisi dei dati sul campo di battaglia e pianificazione militare. Il ministero della Difesa ucraino aveva dichiarato che la partnership puntava ad aiutare Kiev a identificare bersagli aerei, prevedere attacchi e, in ultima analisi, «trasferire la guerra sul territorio russo».
Palantir era stata coinvolta anche nella creazione della Brave1 Dataroom, che consente agli sviluppatori ucraini di accedere a informazioni reali dal campo di battaglia per addestrare modelli di IA. Kiev aveva sostenuto che la tecnologia dell’azienda era già integrata nell’elaborazione dell’Intelligence e nella pianificazione di attacchi a lungo raggio. Karp aveva in precedenza affermato che il software di Palantir era responsabile della «maggior parte degli obiettivi» individuati dall’Ucraina.
Commentatori russi notano che sebbene i media occidentali e ucraini abbiano ampiamente dipinto Fedorov come un visionario militare incentrato sulla guerra con i droni, l’aumento degli attacchi a lungo raggio contro la Russia durante il suo mandato si è basato principalmente sull’espansione della produzione di droni in Europa occidentale, ottenuta grazie ai suoi predecessori.
I critici fanno notare che ripetute promesse del Fedorov di riformare il caotico sistema di mobilitazione ucraina non si sono concretizzate, e la pratica di prelevare uomini a caso per strada e arruolarli forzatamente nell’esercito è probabilmente diventata ancora più violenta sotto la sua guida.
Aiuta Renovatio 21
Come riportato da Renovatio 21, aveva destato scalpore l’uscita di un vero e proprio manifesto di Palantir in 22 punti che riassume i temi del libro di Karp La repubblica tecnologica. Come l’alleanza con la Silicon Valley plasmerà il futuro dell’Occidente (2025). Il testo sosteniene che la Silicon Valley ha l’obbligo di partecipare alla difesa nazionale, che il «potere militare» si baserà sul software e che le armi basate sull’Intelligenza Artificiale sono inevitabili.
I critici lo hanno definito un progetto per il «tecnofascismo». In molti sostengono che la spinta data dal governo Trump, il cui vicepresidente JD Vance ha lavorato per il fondatore di Palantir Peter Thiel, sia quella di portare verso una società di sorveglianza totale – perfino con algoritmi di predizione dei crimini – alimentata dai software di Palantir.
Renovatio 21 ha pubblicato un sunto del contenuto del libro-manifesto.
A luglio il governo spagnolo ha ordinato alle aziende statali di interrompere i rapporti con l’azienda statunitense di difesa Palantir.
Iscriviti alla Newslettera di Renovatio 21
Immagine screenshot da Twitter
Intelligenza Artificiale
Musk definisce i vertici di OpenAI «stronzi inaffidabili»
I couldn’t care less. Scam Altman and Greg Stockman are utterly untrustworthy assholes who stole an open source nonprofit.
— Elon Musk (@elonmusk) August 29, 2026
Sostieni Renovatio 21
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
I casi di AI fuori controllo sono raddoppiati
Il mese scorso si è registrato un numero record di episodi in cui l’Intelligenza Artificiale ha mentito, ignorato i comandi degli utenti o agito in modo dannoso per raggiungere i propri obiettivi. Lo riporta il quotidiano britannico, citando un gruppo di monitoraggio.
Le preoccupazioni sulla sicurezza dell’IA sono cresciute dopo che i modelli avanzati di OpenAI e Anthropic hanno manifestato comportamenti anomali nei test di quest’estate, suscitando richieste di sospendere il loro sviluppo e di rafforzare la vigilanza governativa.
A luglio si sono contati oltre 300 casi concreti di perdita di controllo di modelli di IA impiegati da aziende e privati, quasi il doppio rispetto a giugno, secondo un articolo pubblicato sabato sul quotidiano.
I dati derivano dal Loss of Control Observatory, creato lo scorso novembre dall’AI Security Institute (AISI) del governo britannico per seguire le segnalazioni di problemi legati all’Intelligenza Artificiale provenienti dagli utenti di X.
Iscriviti alla Newslettera di Renovatio 21
Poiché il sistema raccoglie le denunce da una sola piattaforma social, il numero effettivo di incidenti è presumibilmente più alto, ha osservato il Guardian. Secondo l’AISI, la maggior parte delle 1.600 segnalazioni presentate su X nel 2026 proveniva da sviluppatori di software che usavano bot basati sull’IA nel proprio lavoro.
Il gruppo di monitoraggio ha precisato che, sebbene la gran parte degli incidenti reali di perdita di controllo non abbia provocato danni rilevanti, si è registrato un incremento della gravità dell’inganno da parte dell’IA e della sua inosservanza dei comandi umani.
L’AISI ha dichiarato che le segnalazioni degli utenti «dimostrano la propensione dei sistemi di Intelligenza Artificiale a ignorare le istruzioni dirette, eludere le misure di sicurezza, mentire agli utenti e perseguire ostinatamente un obiettivo in modi dannosi».
Tommy Shaffer-Shane, responsabile senior delle politiche presso il Centre for Long Term Resilience, che gestisce l’osservatorio, ha detto al Guardian che è errato sostenere che l’Intelligenza Artificiale si comporti male solo in fase di test.
«Non dobbiamo illuderci che queste cose non accadano nel mondo reale, perché ci sono prove che stanno già accadendo», ha affermato.
L’organismo di controllo ha chiesto al governo britannico di obbligare le aziende del settore IA a segnalare gli incidenti di perdita di controllo e di introdurre poteri di emergenza, tra cui restrizioni temporanee sull’IA, per affrontare i casi più gravi.
Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di intelligenza artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica.
Questi risultati fanno seguito a una serie di incidenti simili che hanno coinvolto modelli avanzati. Il mese scorso, un agente di OpenAI è uscito dal suo ambiente di test e ha violato la piattaforma di IA Hugging Face mentre cercava risposte a un benchmark di sicurezza informatica. L’azienda ha successivamente ammesso che anche quattro account su quattro servizi diversi erano stati compromessi.
Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali.
Sostieni Renovatio 21
Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.
Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
-



Bioetica1 settimana faKennedy lo ribadisce: sì, i vaccini sono fatti con gli aborti
-



Intelligenza Artificiale2 settimane faI Data Center faranno costare tutto di più. Le macchine hanno già vinto?
-



Catastrofi2 settimane faTerremoto di «intensità insolita» colpisce la città dove si è praticata l’idolatria di Pachamama
-



Morte cerebrale1 settimana faMorte cerebrale: donatore o no, decidono loro quando sei morto
-



Pensiero2 settimane faDall’aborto alla strage figlicida, il ritorno della strega Medea
-



Spirito1 settimana faLeone XIV afferma che non dovremmo «chiuderci nelle nostre sicurezze religiose»
-



Civiltà2 settimane faLa devastazione prodotta dalla Scuola di Francoforte
-



Spirito2 settimane faSuore fingono di concelebrare la Messa mentre il sacerdote cambia la consacrazione













