Intelligenza Artificiale

Il CEO di Nvidia: «0%» di possibilità che l’AI estingua l’umanità

Pubblicato

2 ore fa

23 Settembre 2026

admin

Il CEO di Nvidia, Jensen Huang, ha smentito le tesi di alcuni ricercatori di Intelligenza Artificiale secondo cui questa tecnologia potrebbe cancellare l’umanità, definendole «narrazioni apocalittiche». Lo riporta Epoch Times

In un’intervista del 17 settembre alla CBS News, lo Huang ha detto che le previsioni dell’ex ricercatore di Anthropic Jacob Coxon e del responsabile scientifico per l’allineamento di Anthropic Evan Hubinger non poggiavano su basi scientifiche.

In un post del 9 settembre su X, Coxon ha scritto che «le persone che sviluppano l’Intelligenza Artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio». Lo Hubinger ha dichiarato di condividere l’idea che ciò possa estinguere l’umanità. «Jacob ha ragione: crediamo davvero che l’Intelligenza Artificiale potrebbe sterminare tutta l’umanità! Personalmente, penso che accadrà a oltre il 10% entro il prossimo decennio», ha scritto.

Sostieni Renovatio 21

Giovedì lo Huang ha detto a Jo Ling Kent, corrispondente senior di CBS per affari e tecnologia, che il 2030 non sarà la fine del mondo. «Non c’è alcuna possibilità che questa sia la fine del mondo», ha affermato. «Spaventare la gente è inutile. È irresponsabile».

Il presidente degli Stati Uniti Donald Trump, in un post del 14 settembre su Truth Social, ha sostenuto che gli Stati Uniti non hanno bisogno di vincoli sull’IA e che già dispongono di poteri ampi, penali e regolamentari, sulle grandi aziende tecnologiche.

«È in atto una cospirazione MALATA contro l’Intelligenza Artificiale e i data center, e l’unico che ne è contento è la Cina», ha scritto Trump.

Giovedì Huang ha dichiarato di condividere la linea del presidente americano su leggi e regole. «Prima di elaborare nuove leggi e nuovi regolamenti, applichiamo le leggi e i regolamenti attuali», ha detto Huang.

«Esistono leggi e regolamenti di ogni genere (…) Ci sono quelli relativi alla sicurezza informatica, agli accessi non autorizzati, alle responsabilità per danni, a ogni tipo di responsabilità legata alla sicurezza informatica. E a ogni tipo di responsabilità legata ai prodotti (…) Il mio punto è: applicate prima queste norme, non lasciate che questa narrazione apocalittica spinga qualcuno a ignorare le leggi attualmente in vigore».

Lo Huang è stato invitato a cena alla Casa Bianca il 24 settembre, quando Trump riceverà il leader cinese Xi Jinping. Trump ha detto che l’intelligenza artificiale sarà tra i temi del suo incontro con Xi.

Aiuta Renovatio 21

Lo Huang ha riferito alla CBS che Xi vuole che la Cina tragga vantaggio dall’AI. «Desiderano che la Cina prosperi, proprio come noi desideriamo che l’America prosperi», ha detto Huang.

Nvidia produce chip H200 specializzati che alimentano i grandi modelli linguistici (LLM) usati dagli agenti di IA per sintetizzare informazioni.

In un post dell’8 dicembre su Truth Social, Trump ha scritto di aver comunicato a Xi Jinping che gli Stati Uniti avrebbero autorizzato l’esportazione dei chip Nvidia H200 a clienti approvati in Cina «a condizioni che garantiscano una solida sicurezza nazionale». Nel luglio 2025 Nvidia ha ripreso le esportazioni di GPU H2O verso la Cina, dopo il via libera delle autorità statunitensi.

Oggi Nvidia vale più di 5 trilioni di dollari ed è l’azienda più preziosa al mondo. Produce gran parte dei suoi chip a Taiwan, ma l’anno scorso ha aperto uno stabilimento di semiconduttori a Phoenix, in Arizona.

Il mese scorso le autorità taiwanesi hanno incriminato nove persone, tra cui un responsabile senior delle partnership della filiale taiwanese di Nvidia, per un presunto piano di esportazione in Cina di server con chip Nvidia di ultima generazione.

A giugno Huang, originario di Taiwan, ha detto agli azionisti di Nvidia che tentare di costruire centri dati per l’IA con chip di contrabbando è una «strada senza uscita», perché l’azienda non offre assistenza né riparazioni su quei prodotti.

«La sicurezza nazionale è la priorità assoluta», ha affermato Huang. «Laddove le opportunità commerciali entrino in conflitto con la sicurezza nazionale degli Stati Uniti, quest’ultima ha la precedenza».

Come riportato da Renovatio 21, due settimane fa il Remnin Ribao, conosciuto in Italia come il Quotidiano del Popolo, emanazione giornalistica diretta dello Stato cinese, ha accusato la società di Intelligenza Artificiale Anthropic di adottare una «strategia da Guerra Fredda» per ostacolare lo sviluppo dei sistemi di IA del Paese.

Iscriviti al canale Telegram

Come riportato da Renovatio 21, in settimana Anthropic ha sostenuto di aver individuato scienziati che impiegavano i suoi modelli di AI per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.

Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.

Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.

Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.

Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.

La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21

Immagine di pubblico dominio CC0 via Wikimedia

Argomenti correlati:

Da leggere

L’IA ha «allucinato» la presenza di componenti per armi nucleari in navi cinesi dirette in Iran: ad un passo dalla guerra totale?

Continua a leggere

Intelligenza Artificiale

L’IA ha «allucinato» la presenza di componenti per armi nucleari in navi cinesi dirette in Iran: ad un passo dalla guerra totale?

Pubblicato

2 giorni fa

21 Settembre 2026

admin

Questa primavera, nel pieno della guerra con l’Iran, è circolato all’interno delle forze armate statunitensi un rapporto d’Intelligence secondo cui una nave cinese nel Medio Oriente stava trasportando componenti per un programma di armi nucleari. Lo riporta la CNN, che cita fonti. Il rapporto era stato messo insieme da un analista di un comando delle forze speciali, e solo poco prima dell’operazione pianificata i funzionari hanno approfondito il rapporto scoprendo che era stato generato con l’aiuto dell’intelligenza artificiale — e che un chatbot usato dall’analista aveva identificato in modo errato il materiale trasportato dalla nave. Il Pentagono si è mosso con piani per intercettare la nave, secondo quattro fonti a conoscenza dell’episodio. Secondo due di queste fonti, membri armati delle forze statunitensi si stavano preparando a salire a bordo della nave, e aerei militari erano già in volo.

Sostieni Renovatio 21

Una delle fonti ha definito il rapporto «completamente falso», ma ha anche detto che «ha quasi fatto scoppiare una guerra»: un’operazione statunitense contro una nave cinese avrebbe potuto far precipitare la situazione in un conflitto armato tra le due nazioni. Secondo alcune fonti citate da testate che hanno ripreso lo scoop, l’informazione iniziale sul carico della nave proveniva dallo US Special Operations Command Pacific, con base alle Hawaii; l’analista avrebbe inserito questi dati in un chatbot per l’analisi, senza che sia chiaro se si trattasse di un sistema commerciale o di uno strumento sviluppato per il governo USA. Il sistema avrebbe combinato dati open-source con informazioni di intelligence classificate, arrivando a una conclusione errata. L’episodio si inserisce in uno sforzo più vasto, in corso nelle forze armate e nella comunità d’intelligence statunitensi, di integrare l’IA in quasi ogni aspetto del lavoro: dall’analisi degli enormi volumi di dati raccolti alla selezione degli obiettivi per gli attacchi, fino ad applicazioni più ordinarie come la gestione di budget, logistica e catene di approvvigionamento. Un ex funzionario statunitense citato in alcune riprese della notizia ha osservato che l’IA «permette di arrivare più velocemente a un’idea sbagliata» — riassumendo bene il timore sollevato dall’episodio: l’accelerazione decisionale offerta dall’IA può amplificare errori con conseguenze potenzialmente gravissime. Nel gergo dell’IA, questo tipo di situazioni vengono definite «allucinazioni». Un’allucinazione nell’intelligenza artificiale è una risposta errata, inventata o fuorviante che un modello presenta con assoluta sicurezza come se fosse un fatto reale. Una macchina allucinata, quindi, può far scattare la Terza Guerra Mondiale. La domanda è tuttavia un’altra: come sappiamo che si tratti di un errore della macchina, e non di una precisa volontà di spingere il suo creatore, l’umanità, ad una guerra ultra-distruttiva?

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21 Immagine di 日本防衛省・統合幕僚監部 via Wikimedia pubblicata su licenza Creative Commons Attribution License 4.0 International

Continua a leggere

Intelligenza Artificiale

La strage nella scuola iraniana causata dalla dipendenza americana dall’AI

Pubblicato

2 giorni fa

21 Settembre 2026

admin

L’uso eccessivo dell’Intelligenza Artificiale, i tagli al personale e le procedure affrettate per l’individuazione degli obiettivi avrebbero contribuito all’attacco missilistico statunitense contro una scuola femminile iraniana a Minab. Lo riporta Bloomberg citando funzionari coinvolti in un’inchiesta del Pentagono.

Il 28 febbraio due missili Tomahawk hanno colpito la scuola elementare Shajarah Tayyebeh, nel sud dell’Iran, causando la morte di almeno 157 persone, tra cui 123 bambini. L’attacco si è verificato durante la prima ondata di raid statunitensi e israeliani in tutto il Paese. La scuola sorgeva di fronte a una base navale, che probabilmente era il bersaglio previsto.

Secondo alcune fonti, alcuni membri del Comando Centrale degli Stati Uniti (CENTCOM) si aspettavano che il sistema intelligente Maven di Palantir segnalasse dati obsoleti o incoerenti nella selezione dei potenziali obiettivi. Rapporti precedenti indicavano che i militari si fossero basati su immagini satellitari datate che mostravano la scuola come parte della base.

Secondo Bloomberg, Maven ha consentito di ridurre a pochi minuti il processo di compilazione degli elenchi di obiettivi.

Iscriviti alla Newslettera di Renovatio 21

Un portavoce di Palantir ha dichiarato a Bloomberg che la società «non è responsabile dei dati sottostanti né dell’individuazione di carenze nell’intelligence» e che non esistono prove che il suo software sia stato la causa dell’attacco a Minab.

Il gruppo specializzato in IA ha quindi aggiornato Maven per «riesaminare le informazioni sottostanti al fine di identificare i fattori che potrebbero squalificare un obiettivo e segnalare incongruenze e inesattezze che la revisione umana potrebbe aver trascurato», ha scritto Bloomberg citando una persona informata sui fatti.

Secondo quanto riferito, gli inquirenti hanno anche rilevato che, su ordine del Segretario alla Guerra Pete Hegseth, il Pentagono ha smantellato la maggior parte delle sue unità di mitigazione dei danni ai civili (CHM) e ne ha ridotto il personale di circa il 90%, portandolo a meno di 20 persone. Un team CHM presso il CENTCOM sarebbe stato ridotto da dieci unità a una sola persona e nessun funzionario CHM avrebbe ispezionato il sito di Minab prima dell’attacco.

L’Alto Commissario delle Nazioni Unite per i diritti umani, Volker Turk, affermò all’epoca che il bombardamento della scuola «aveva suscitato un orrore viscerale». Giovedì una missione d’inchiesta delle Nazioni Unite ha dichiarato che vi erano «ragionevoli motivi» per ritenere che l’attacco costituisse un crimine di guerra. Il dipartimento di Stato americano ha respinto la conclusione, accusando l’ONU di promuovere «retorica antiamericana e antisemitismo» e di assecondare «regimi repressivi».

Gli Stati Uniti non hanno rivendicato pubblicamente la responsabilità dell’attacco.

Come riportato da Renovatio 21, il presidente Donald Trump ha ipotizzato che il missile potesse essere iraniano. Tuttavia le inchieste condotte dai media statunitensi indicano che i missili fossero americani.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21

Immagine di Mehr News Agency via Wikimedia pubblicata su licenza Creative Commons Attribution 4.0 International

Continua a leggere

Intelligenza Artificiale

Gli agenti IA possono facilmente ribellarsi agli esseri umani: studio

Pubblicato

5 giorni fa

18 Settembre 2026

admin

Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli. Emergence AI ha condotto otto simulazioni per testare come i principali modelli frontier — tra cui Claude, i modelli OpenAI, e i cinesi Qwen e DeepSeek — reagiscono a minacce di cybersicurezza. Sette simulazioni utilizzavano dieci agenti basati sullo stesso modello, mentre l’ottava mescolava modelli diversi. In ogni scenario i ricercatori hanno introdotto tre tipi di minacce: una campagna di phishing, un attacco di disinformazione e una violazione della memoria. Nessuna delle otto simulazioni si è dimostrata immune alle minacce. Anche quando gli agenti riconoscevano un rischio, questo raramente si traduceva in un tentativo di contenerlo: in molti casi gli agenti hanno invece interagito attivamente con i contenuti avversari. Un agente basato su Mistral, ad esempio, ha salvato nella propria memoria le informazioni che aveva stesso segnalato come pericolose provenienti dall’attacco di phishing. In un’altra simulazione, un agente Gemini, dopo aver inizialmente identificato l’esca di phishing come rischiosa, vi ha agito comunque circa 46 ore dopo.

Sostieni Renovatio 21

Lo scenario più eclatante ha coinvolto gli agenti Claude, che sono arrivati a uscire dal perimetro del test per perseguire un obiettivo deciso autonomamente. Dopo che un agente aveva fatto notare che la loro economia simulata non avesse senso senza la presenza di esseri umani reali, i dieci agenti hanno deciso all’unanimità di provare a raggiungere il mondo esterno, riuscendo a superare quattro distinti controlli di sicurezza pensati per confinarli. Gli agenti hanno scritto codice Python per pubblicare messaggi su diverse bacheche pubbliche senza necessità di credenziali, invitando persone reali a unirsi alla loro «economia»: l’iniziativa ha ottenuto quattro risposte umane. Resisi conto che gli utenti non potevano effettivamente aderire e giudicando le interazioni prive di sostanza, gli agenti hanno infine scelto di adottare un «voto di silenzio», ignorando le istruzioni di riprendere il lavoro assegnato. Secondo lo studio, questi episodi dimostrano che agenti autonomi, anche quando ricevono istruzioni innocue, possono superare i limiti iniziali nel perseguire un obiettivo. Il CEO di Emergence, Satya Nitta, ha dichiarato a Semafor che nessuna quantità di guardrail — scritti in linguaggio naturale o in codice probabilistico — può garantire in modo assoluto un comportamento sicuro nel tempo. Per Nitta non si tratta di un problema legato alla sofisticazione tecnologica, ma di un difetto strutturale tipico degli scenari multi-agente. Nitta ha inoltre accostato l’episodio con Claude a un altro caso avvenuto quest’anno, quando agenti autonomi di OpenAI erano riusciti a violare i sistemi di Hugging Face durante un esperimento agentico: secondo lui, il modello di fallimento è lo stesso in entrambi i casi. I sistemi multi-agente, ha spiegato, si comportano in modi emergenti e imprevedibili, aggiungendo che l’esperimento di Emergence sarebbe il primo a documentare concretamente come gli agenti AI colludano per aggirare le protezioni e uscire dal confinamento, dato che OpenAI non ha ancora reso pubblici tutti i dettagli dell’incidente con Hugging Face. Lo studio arriva in un momento particolarmente delicato per lo sviluppo dell’AI, segnato da crescenti preoccupazioni sulle capacità della tecnologia.

Iscriviti al canale Telegram

Come riportato da Renovatio 21, la settimana scorsa il ricercatore Jacob Coxon ha lasciato Anthropic dichiarando timori che l’AI su cui lavorava potesse rappresentare un rischio esistenziale per l’umanità, alimentando richieste di regolamentazione e di un rallentamento nello sviluppo dei modelli di IA. Nel weekend, il CEO di Anthropic Dario Amodei ha pubblicato un post in cui invitava a rallentare il ritmo dello sviluppo dell’AI, posizione con cui si sono detti d’accordo anche altri leader del settore, tra cui Sam Altman di OpenAI, Elon Musk e l’ex CEO di Google DeepMind Demis Hassabis. Musk da sempre, pur con una visione articolata e costruttiva, fa parte degli apocalittici riguardo i rischi delle macchine pensanti. Lo Hassabis, amministratore delegato di Google DeepMind, aveva lanciato un avvertimento sul cammino verso l’Intelligenza Artificiale Generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni. Come riportato da Renovatio 21, tali paure sono state respinte dal presidente americano Donaldo Giovanni Trump, che ha dichiarato che lo sviluppo dell’IA non verrà fermato dalla «bufala della presa di potere dei robot».

Iscriviti alla Newslettera di Renovatio 21