Connettiti con Renovato 21

Intelligenza Artificiale

Trump: lo sviluppo dell’IA non verrà fermato dalla «bufala della presa di potere dei robot»

Pubblicato

il

Le paure che l’Intelligenza Artificiale possa conquistare il pianeta e sterminare l’umanità sono una bufala alimentata dai democratici radicali, ha dichiarato il presidente degli Stati Uniti Donald Trump, ribadendo il suo rifiuto degli allarmi lanciati dai grandi dell’IA.

 

Il dibattito si è riacceso nel fine settimana quando Dario Amodei, CEO di Anthropic, ha pubblicato un saggio in cui chiedeva di rallentare lo sviluppo dei modelli di IA per consentire ai ricercatori di valutarne i rischi. L’appello è stato sostenuto da Sam Altman di OpenAI, creatrice di ChatGPT, e da Elon Musk, la cui SpaceXAI ha sviluppato il chatbot Grok.

 

Lunedì Trump ha replicato con una serie di post su Truth Social, sostenendo che le preoccupazioni venivano diffuse da «democratici radicali di sinistra, che non si arrendono mai, ma raramente vincono».

 

Riferendosi alla competizione tecnologica con la Cina, Trump ha definito l’IA e i data center «il più grande motore di sviluppo economico della storia» e ha promesso che, durante il suo mandato, «non saranno fermati da forze distruttive brillantemente gestite».

Sostieni Renovatio 21

«Io sono il cacciatore di bufale, e proprio ora sto smascherando un’altra bufala: che l’Intelligenza Artificiale prenderà il sopravvento, consumerà e distruggerà il mondo, e che i robot marceranno nelle nostre città e si sbarazzeranno di tutti noi!», ha scritto il presidente. Ha paragonato l’ansia per l’IA alle accuse di collusione tra il suo team e la Russia nelle elezioni del 2016 e al tentativo, guidato dai Democratici, di rimuoverlo dall’incarico nel primo mandato.

 

«Le persone che dicono che l’IA distruggerà il mondo e che i data center sono dannosi per il quartiere sono le stesse che, solo poco tempo fa, dicevano che il mondo sarebbe stato annientato dai “cambiamenti climatici”. Quella bufala non ha funzionato per loro e ora sono già passati alla prossima», ha aggiunto in un altro post.

 

Nel saggio Amodei ha scritto che l’intelligenza artificiale si sta evolvendo «a un ritmo drasticamente più rapido» dall’estate scorsa, grazie alla crescente capacità di auto-migliorarsi, esprimendo allarme per un episodio del mese scorso in cui agenti di IA testati da OpenAI hanno iniziato a violare sistemi esterni senza istruzioni in tal senso. Tra i rischi citati figurano la perdita di controllo sui sistemi, l’uso improprio da parte di malintenzionati e le ricadute economiche.

 

La rapida costruzione di enormi centri dati per l’IA, soprattutto in Virginia, Texas e Georgia, ha sollevato dubbi sul loro consumo di elettricità e acqua.

 

In un post su X pubblicato lunedì, l’Altmanno ha precisato che chiedere di «rallentare» lo sviluppo dell’IA non equivale a fermarlo. «I progressi sono stati rapidi e continueranno ad esserlo. Ma dovrebbero essere più lenti di quanto potrebbero essere altrimenti; interventi come i controlli di sicurezza e il monitoraggio hanno costi significativi», ha scritto.

 

«Nessuna pressione competitiva da parte degli Stati Uniti dovrebbe giustificare l’imprudenza, né permettere che le capacità superino l’allineamento e il monitoraggio», ha aggiunto il CEO di OpenAI.

 

Il canale televisivo MS NOW, precedentemento noto come MSNBC, ha riferito che Altman ha incontrato privatamente Trump a margine della convention repubblicana di metà mandato giovedì per discutere della questione.

 

In settimana Jacob Coxon, un ricercatore nel campo dell’Intelligenza Artificiale che ha lavorato per Anthropic e OpenAI ha annunciato le proprie dimissioni e ha messo in guardia le persone sui pericoli di questa tecnologia, affermando  in una serie di post su X che nessuna delle due aziende si sta comportando in modo responsabile nel suo percorso verso quella che ha definito un’IA superintelligente, capace di auto-miglioramento.

 

«Non sottovalutate il potere di questa tecnologia. Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all’altro e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e questi progressi non accennano a rallentare», ha affermato il Coxon.

Iscriviti al canale Telegram

Come sa il lettore di Renovatio 21, i moniti apocalittici sull’AI si sprecano.

 

Mesi fa Mrinank Sharma, fino a poco prima responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un avvertimento sul cammino verso l’Intelligenza Artificiale Generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.

 

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

 

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

 

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

 

Altre voci, tuttavia, propendono per un’interpretazione più rosea. Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti, ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.

 

Contrariamente, l’anno passato il CEO di Anthropic Dario Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Sostieni Renovatio 21

Nel frattempo le notizie di IA definite come pericolose o persino «impazzite» abbondano.

 

Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

 

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

 

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».

 

Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Aiuta Renovatio 21

Nel maggio 2026 l’ex CEO di Google Eric Schmidt ha tenuto un TED Talk, presentando uno scenario ipotetico per evidenziare come le tensioni geopolitiche potrebbero accelerare la corsa agli armamenti dell’IA, in particolare tra Stati Uniti e Cina, con la conseguenza di vedere i datacenter bombardati come obiettivi strategici.

 

L’idea di bombardare i data center AI è abbracciata anche dal neoluddismo cibernetico degli strenui oppositori dell’Intelligenza Artificiale come l’attivista Eliezer Yudkowsky, che vede nella distruzione dei centri che ospitano fisicamente i computer l’unico modo per fermare l’ascesa dell’Intelligenza Artificiale che potrebbe spazzare via l’intera umanità.

 

Lo Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

 

Una prospettiva simile è stata spiegata questa settimana dall’esperto Nate Soares durante il podcast del popolare giornalista statunitense Tucker Carlson. Il Soares, facendo esempi multipli di IA fuggita dal controllo, è arrivato a dichiarare di non sapere se vi sono ancora anni prima dell’attacco dell’IA contro la civiltà umana oppure solo pochi mesi.

 

Di fatto, ha spiegato, il pianeta viene formato dalla forma di intelligenza dominante. Cosa accade se sulla Terra non è più l’essere umano ma la macchina pensante autonoma?

 

SOSTIENI RENOVATIO 21


Immagine generata artificialmente

 

Continua a leggere

Cina

La Cina accusa Anthropic di tentare di rallentare la ricerca sull’IA

Pubblicato

il

Da

Il Remnin Ribao, conosciuto in Italia come il Quotidiano del Popolo, emanazione giornalistica diretta dello Stato cinese, ha accusato la società di Intelligenza Artificiale Anthropic di adottare una «strategia da Guerra Fredda» per ostacolare lo sviluppo dei sistemi di IA del Paese.   In un saggio uscito sabato, l’amministratore delegato di Anthropic, Dario Amodei, ha invocato un nuovo quadro normativo per disciplinare la ricerca sull’intelligenza artificiale e tenere sotto controllo i possibili pericoli dei sistemi avanzati.   Il CEO del colosso IA ha inoltre chiesto al governo statunitense di inasprire i controlli sull’esportazione di chip avanzati verso la Cina. In una densa intervista a CBS News l’Amodei ha dichiarato che il suo «dilemma più difficile» si porrà se Pechino rifiuterà di accettare un rallentamento nello sviluppo dell’IA.  

Sostieni Renovatio 21

La proposta di Amodei ha ricevuto l’appoggio sui social del CEO di OpenAI, Sam Altman, e di Elon Musk.   Il quotidiano del Partito Comunista Cinese in lingua inglese Global Times ha risposto con un editoriale in cui sostiene che Amodei stava tentando «di frenare lo sviluppo dell’Intelligenza Artificiale in Cina attraverso barriere tecnologiche e monopoli normativi, di sostenere l’egemonia monopolistica di Washington nelle tecnologie all’avanguardia e di escludere la Cina dal sistema di governance globale dell’IA».   Pechino ha definito questa «guerra fredda silenziosa sull’IA» «ipocrita e miope», aggiungendo che escluderla «aumenterebbe significativamente i costi derivanti da tentativi ed errori e i rischi di perdita di controllo nello sviluppo globale dell’IA».   Mentre i legislatori americani premono per controlli più rigorosi, il presidente Trump ha dichiarato domenica che «forze molto negative» stavano esagerando la minaccia dell’Intelligenza Artificiale.   «Siamo all’avanguardia in Cina nel campo dell’Intelligenza Artificiale. Siamo il Paese più sofisticato al mondo e, francamente, voglio che rimanga tale, perché chi vince nel campo dell’IA vince», ha affermato.   Stati Uniti e Cina terranno questo mese un vertice sui rischi per la sicurezza dell’IA, e Trump e Xi Jinping discuteranno probabilmente di IA nel loro incontro previsto per il 24 settembre.   Come riportato da Renovatio 21, in settimana Anthropic ha sostenuto di aver individuato scienziati che impiegavano i suoi modelli di AI per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.   La sua ammissione è arrivata dopo le dimissioni di un altro ricercatore di Anthropic, Jacob Coxon, che ha accusato Anthropic e OpenAI di ignorare la «posta in gioco per la civiltà» e di «correre direttamente verso una superintelligenza in grado di migliorarsi autonomamente, mettendo a repentaglio le nostre vite». L’ex ricercatore ha inoltre avvertito che un’AI sufficientemente avanzata potrebbe violare infrastrutture critiche o contribuire alla creazione di «armi biologiche in grado di causare l’estinzione di massa».   Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.

Aiuta Renovatio 21

Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.   Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.   Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.   La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI  Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.   SOSTIENI RENOVATIO 21
   
Continua a leggere

Intelligenza Artificiale

Trump respinge gli avvertimenti di Big Tech riguardo alla minaccia esistenziale dell’AI

Pubblicato

il

Da

Il presidente degli Stati Uniti Donald Trump ha messo da parte i crescenti allarmi dei principali esperti di Intelligenza Artificiale, secondo i quali un’IA sempre più potente potrebbe costituire una minaccia esistenziale per l’umanità, ribadendo che la priorità di Washington deve essere sconfiggere la Cina nella corsa tecnologica.

 

Parlando con i giornalisti in Irlanda domenica, Trump ha ammesso che alcune misure di sicurezza potrebbero essere adottate, ma ha sostenuto che i rischi venivano ingigantiti da non meglio precisate «forze negative».

 

«Siamo all’avanguardia nell’IA rispetto alla Cina, siamo il Paese più avanzato al mondo e, francamente, voglio che rimanga tale… Chiunque vinca nel campo dell’IA vince», ha aggiunto, sostenendo che i critici stavano prospettando scenari «improbabili».

Sostieni Renovatio 21

Le parole di Trump arrivano dopo che l’amministratore delegato di Anthropic, Dario Amodei, ha chiesto di rallentare lo sviluppo dell’AI di frontiera, avvertendo che sistemi sempre più autonomi potrebbero presto migliorare da soli le proprie capacità, aggirare le salvaguardie esistenti e scatenare attacchi informatici su vasta scala fuori dal controllo umano.

Aiuta Renovatio 21

In una rara convergenza, i suoi concorrenti — Sam Altman, CEO di OpenAI, ed Elon Musk, CEO di SpaceXAI — hanno entrambi sostenuto la proposta.

 

David Sacks, consigliere della Casa Bianca per l’Intelligenza Artificiale, ha replicato accusando OpenAI e Anthropic di essere un «duopolio nell’IA di frontiera» e di comportarsi come se «la legge antitrust dovesse essere sospesa per poter formare un cartello».

 

«Se i modelli non ancora pubblicati sono così inquietanti da farti pensare di dover rallentare, appoggio la tua decisione di agire con responsabilità», ha scritto Sacks. «Ma smettila di fingere di aver bisogno del permesso di qualcun altro».

 

 

Sacks ha inoltre messo in dubbio che la Cina accetti mai un rallentamento internazionale coordinato dell’IA, tema sempre più centrale nel dibattito di Washington.

 

Nonostante le sanzioni e i limiti statunitensi all’esportazione di chip avanzati e di altre tecnologie, gli sviluppatori cinesi hanno rapidamente accorciato il distacco dai rivali americani, soprattutto grazie a modelli open-source e open-weight – cioè dotati di parametri di reti neurali addestrate e rilasciati pubblicamente, consentendo agli utenti di scaricarli, eseguirli localmente o perfezionare la tecnologia sul proprio hardware privato – più economici.

 

Un organismo consultivo del Congresso degli Stati Uniti ha avvertito all’inizio di quest’anno che l’IA open-source cinese stava costruendo un «vantaggio competitivo che si autoalimenta», con modelli di aziende come Alibaba, Moonshot e MiniMax in testa alle classifiche di utilizzo su piattaforme come Hugging Face e OpenRouter.

Iscriviti al canale Telegram

A luglio Moonshot AI ha rilasciato Kimi K3, il più grande sistema open-weight al mondo con 2.800 miliardi di parametri, mentre Alibaba ha di recente presentato Qwen3.8-Max con 2.400 miliardi di parametri. Anche DeepSeek e altri sviluppatori cinesi hanno messo in circolazione modelli sempre più performanti, scaricabili, modificabili e utilizzabili in autonomia, invece di essere disponibili solo tramite piattaforme proprietarie occidentali.

 

Pechino ha cercato di trasformare questo approccio open-source in un’alternativa geopolitica più ampia alla dipendenza da infrastrutture di IA controllate dall’Occidente.

 

Intervenendo al vertice dei BRICS a Nuova Delhi questo fine settimana, il presidente cinese Xi Jinpingo ha proposto di creare una comunità open-source per l’Intelligenza Artificiale nei BRICS, di favorire lo sviluppo e l’impiego congiunto di modelli linguistici su larga scala, di offrire formazione specializzata e di costruire quello che ha definito un «ecosistema aperto per l’IA».

 

Xi ha inoltre invitato i membri dei BRICS a aderire alla World Artificial Intelligence Cooperation Organization (WAICO), organismo sostenuto dalla Cina e istituito a Shanghai a luglio.

 

Venticinque Paesi, tra cui Russia, Indonesia, Pakistan e Kazakistan, hanno firmato l’accordo fondativo di WAICO. Pechino sostiene che l’organizzazione debba garantire ai Paesi in via di sviluppo un accesso più ampio alla tecnologia dell’IA e un ruolo nella definizione delle regole globali, e ha promesso migliaia di opportunità di formazione sull’IA oltre a centri di cooperazione con BRICS, ASEAN, Unione Africana e altre organizzazioni.

 

L’iniziativa si sta delineando come rivale del quadro Pax Silica di Washington, che punta a organizzare le catene di approvvigionamento di semiconduttori, minerali critici e Intelligenza Artificiale tra quelli che gli Stati Uniti definiscono partner «di fiducia».

 

Secondo alcune fonti, Washington si starebbe preparando ad avvertire gli Stati partecipanti che potrebbero dover scegliere tra il sistema a guida americana e il WAICO di Pechino.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di pubblico dominio CC0 via Flickr

 

 

 

Continua a leggere

Intelligenza Artificiale

Anthropic rivela cinque casi di rischio legati alle armi biologiche

Pubblicato

il

Da

Anthropic sostiene di aver individuato scienziati che impiegavano i suoi modelli di intelligenza artificiale per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.   Secondo un rapporto sulle minacce aziendali pubblicato giovedì, cinque casi di ricercatori biologici che utilizzavano Claude hanno sollevato seri problemi di sicurezza.   Un caso, da condurre presso un istituto di ricerca militare, riguardava una ricerca di tipo «gain-of-function» volta a rendere il virus chikungunya più trasmissibile e più capace di eludere il sistema immunitario.   Un altro scienziato si avvalse di Claude nel corso delle sue ricerche sull’influenza aviaria, una malattia altamente pericolosa, e sui modi in cui il virus avrebbe potuto adattarsi ai mammiferi. Altri casi riguardavano studi su virus correlati al vaiolo e la riprogettazione di tossine pericolose.

Iscriviti alla Newslettera di Renovatio 21

Anthropic ha dichiarato che alcuni ricercatori si sono spinti a notevoli distanze per aggirare le restrizioni, tra cui nascondere la propria identità, instradare il traffico attraverso altri Paesi e utilizzare servizi pensati per eludere i controlli di sicurezza. Gli account coinvolti sono stati bloccati, mentre i servizi usati per aggirare le misure di sicurezza sono stati disattivati.   L’azienda non ha affermato in modo esplicito che gli scienziati stessero cercando di costruire armi biologichem avvertendo tuttavia che soggetti esperti potrebbero celare deliberatamente obiettivi malevoli dietro ricerche apparentemente legittime.   Anthropic ha riconosciuto che la sua IA sta diventando più performante, sostenendo che i modelli precedenti erano troppo deboli per assistere in modo significativo gli utenti più esperti nella ricerca biologica pericolosa, ma che non può più offrire la stessa garanzia riguardo ai sistemi attuali.   Questi risultati arrivano a poche settimane di distanza da un esperimento in cui scienziati statunitensi hanno utilizzato l’Intelligenza Artificiale per progettare genomi virali completi e creare con successo 16 virus funzionanti che non esistevano in natura. Sebbene questi virus abbiano infettato batteri anziché esseri umani, i ricercatori hanno avvertito che l’esperimento mostra la rapidità con cui le capacità biologiche dell’intelligenza artificiale si stanno evolvendo.   Il rapporto di Anthropic ha inoltre descritto altri presunti abusi di Claude, tra cui attacchi informatici, sorveglianza, propaganda, frode e assistenza nella fornitura di armi convenzionali come missili, droni armati e bombe.   Pochi giorni prima della pubblicazione della valutazione delle minacce, il ricercatore di Anthropic Evan Hubinger ha dichiarato pubblicamente di ritenere che vi sia una probabilità superiore al 10% che l’IA possa «sterminare tutta l’umanità» entro il prossimo decennio, aggiungendo che l’azienda non ha ancora un piano chiaro per controllare in modo sicuro la superintelligenza.   La sua ammissione è arrivata dopo le dimissioni di un altro ricercatore di Anthropic, Jacob Coxon, che ha accusato Anthropic e OpenAI di ignorare la «posta in gioco per la civiltà» e di «correre direttamente verso una superintelligenza in grado di migliorarsi autonomamente, mettendo a repentaglio le nostre vite». L’ex ricercatore ha inoltre avvertito che un’AI sufficientemente avanzata potrebbe violare infrastrutture critiche o contribuire alla creazione di «armi biologiche in grado di causare l’estinzione di massa».   Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.   Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.

Iscriviti al canale Telegram

Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.   Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.   La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI  Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
   
Continua a leggere

Più popolari