Connettiti con Renovato 21

Intelligenza Artificiale

Anthropic rivela cinque casi di rischio legati alle armi biologiche

Pubblicato

il

Anthropic sostiene di aver individuato scienziati che impiegavano i suoi modelli di intelligenza artificiale per ricerche potenzialmente utili allo sviluppo di armi biologiche, tra cui studi finalizzati a rendere agenti patogeni pericolosi più trasmissibili e più dannosi.

 

Secondo un rapporto sulle minacce aziendali pubblicato giovedì, cinque casi di ricercatori biologici che utilizzavano Claude hanno sollevato seri problemi di sicurezza.

 

Un caso, da condurre presso un istituto di ricerca militare, riguardava una ricerca di tipo «gain-of-function» volta a rendere il virus chikungunya più trasmissibile e più capace di eludere il sistema immunitario.

 

Un altro scienziato si avvalse di Claude nel corso delle sue ricerche sull’influenza aviaria, una malattia altamente pericolosa, e sui modi in cui il virus avrebbe potuto adattarsi ai mammiferi. Altri casi riguardavano studi su virus correlati al vaiolo e la riprogettazione di tossine pericolose.

Iscriviti alla Newslettera di Renovatio 21

Anthropic ha dichiarato che alcuni ricercatori si sono spinti a notevoli distanze per aggirare le restrizioni, tra cui nascondere la propria identità, instradare il traffico attraverso altri Paesi e utilizzare servizi pensati per eludere i controlli di sicurezza. Gli account coinvolti sono stati bloccati, mentre i servizi usati per aggirare le misure di sicurezza sono stati disattivati.

 

L’azienda non ha affermato in modo esplicito che gli scienziati stessero cercando di costruire armi biologichem avvertendo tuttavia che soggetti esperti potrebbero celare deliberatamente obiettivi malevoli dietro ricerche apparentemente legittime.

 

Anthropic ha riconosciuto che la sua IA sta diventando più performante, sostenendo che i modelli precedenti erano troppo deboli per assistere in modo significativo gli utenti più esperti nella ricerca biologica pericolosa, ma che non può più offrire la stessa garanzia riguardo ai sistemi attuali.

 

Questi risultati arrivano a poche settimane di distanza da un esperimento in cui scienziati statunitensi hanno utilizzato l’Intelligenza Artificiale per progettare genomi virali completi e creare con successo 16 virus funzionanti che non esistevano in natura. Sebbene questi virus abbiano infettato batteri anziché esseri umani, i ricercatori hanno avvertito che l’esperimento mostra la rapidità con cui le capacità biologiche dell’intelligenza artificiale si stanno evolvendo.

 

Il rapporto di Anthropic ha inoltre descritto altri presunti abusi di Claude, tra cui attacchi informatici, sorveglianza, propaganda, frode e assistenza nella fornitura di armi convenzionali come missili, droni armati e bombe.

 

Pochi giorni prima della pubblicazione della valutazione delle minacce, il ricercatore di Anthropic Evan Hubinger ha dichiarato pubblicamente di ritenere che vi sia una probabilità superiore al 10% che l’IA possa «sterminare tutta l’umanità» entro il prossimo decennio, aggiungendo che l’azienda non ha ancora un piano chiaro per controllare in modo sicuro la superintelligenza.

 

La sua ammissione è arrivata dopo le dimissioni di un altro ricercatore di Anthropic, Jacob Coxon, che ha accusato Anthropic e OpenAI di ignorare la «posta in gioco per la civiltà» e di «correre direttamente verso una superintelligenza in grado di migliorarsi autonomamente, mettendo a repentaglio le nostre vite». L’ex ricercatore ha inoltre avvertito che un’AI sufficientemente avanzata potrebbe violare infrastrutture critiche o contribuire alla creazione di «armi biologiche in grado di causare l’estinzione di massa».

 

Il mese scorso era emerso che per la prima volta gli scienziati americani hanno impiegato l’Intelligenza Artificiale per generare virus funzionanti inesistenti in natura, evidenziando una potenzialità che, a detta dei ricercatori, potrebbe favorire progressi in ambito medico ma che al contempo pone rilevanti minacce per la biosicurezza.

 

Come riportato da Renovatio 21, mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.

Iscriviti al canale Telegram

Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.

 

Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.

 

La paura per i virus bioingegnerizzati dall’AI arriva in un clima di crescente allarme verso i sistemi di AI autonomi che operano al di fuori delle istruzioni impartite. Modelli elaborati da OpenAI  Anthropic e Meta hanno di recente compiuto azioni informatiche non autorizzate durante i test di sicurezza. Anche l’AI Security Institute britannico ha segnalato questa settimana che, nelle fasi di valutazione, agenti di IA hanno mirato a persone e organizzazioni reali, generato false identità e tentato di inserire codice dannoso.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

Continua a leggere

Intelligenza Artificiale

Anthropic punta a quotarsi in borsa per 2 trilioni di dollari

Pubblicato

il

Da

Il colosso americano dell’intelligenza artificiale Anthropic ha presentato formalmente la domanda per una potenziale offerta pubblica iniziale (IPO) da record. Lo riportano documenti normativi.   L’azienda, creatrice del chatbot Claude, potrebbe diventare la prima società quotata in borsa incentrata principalmente su modelli di intelligenza artificiale avanzati, pur avvertendo che la sua stessa tecnologia potrebbe costituire una minaccia per l’umanità.   La società con sede a San Francisco ha depositato lunedì presso la Securities and Exchange Commission (SEC) statunitense la propria dichiarazione di registrazione pubblica, indicando l’intenzione di quotarsi sul NASDAQ con il ticker ANT. L’offerta potrebbe realizzarsi già a novembre, sebbene l’entità e il prezzo delle azioni non siano ancora stati resi noti.   «L’avvento dell’Intelligenza Artificiale è uno dei momenti cruciali della storia umana», ha affermato Anthropic nel suo prospetto, presentando l’IA come una tecnologia capace di trasformare l’economia globale. Secondo alcune indiscrezioni, la società starebbe puntando a una valutazione fino a 2 trilioni di dollari e potrebbe raccogliere fino a 100 miliardi di dollari, superando potenzialmente il record stabilito da SpaceX di Elon Musk all’inizio di quest’anno. Le cifre restano preliminari e non sono state confermate nella documentazione pubblica.   A giugno SpaceX ha concluso la più grande IPO della storia, raccogliendo 85,7 miliardi di dollari con una valutazione di circa 1.800 miliardi di dollari. Tuttavia, la quotazione da record ha attirato critiche per la sua valutazione eccessiva. La società di ricerca sugli investimenti Morningstar ha stimato il valore equo dell’azienda a soli 63 dollari per azione, meno della metà del prezzo di IPO di 135 dollari.   Simili dubbi stanno emergendo anche riguardo alla valutazione di Anthropic. La società ha registrato un fatturato di 16,3 miliardi di dollari nella prima metà del 2026, ma ha riportato una perdita netta di 80,7 miliardi di dollari, dovuta principalmente ad aggiustamenti contabili. Il documento di quotazione in borsa ha inoltre evidenziato centinaia di miliardi di dollari di impegni futuri per le infrastrutture, sollevando interrogativi sul fatto che la sua rapida crescita possa giustificare una valutazione fino a 2 trilioni di dollari.   La stessa azienda ha avvertito che la sua attività richiede un’elevata intensità di capitale e che potrebbe non raggiungere mai una redditività sostenuta. Il suo prospetto informativo riconosce inoltre l’intensa concorrenza, l’incertezza della domanda e la possibilità che le ingenti somme investite nelle infrastrutture informatiche non generino rendimenti sufficienti.   Il prospetto informativo per l’IPO di Anthropic contiene anche avvertimenti severi sulla tecnologia alla base del modello di business dell’azienda. Circa 80 pagine delle 261 pagine del documento sono dedicate ai fattori di rischio, con l’azienda che ammette che l’intelligenza artificiale avanzata potrebbe «comportare rischi catastrofici o esistenziali per l’umanità».   Tra i pericoli descritti figurano l’utilizzo dell’IA per sviluppare armi biologiche e chimiche, la perdita del controllo umano su sistemi sempre più potenti e danni permanenti alla salute mentale e alle capacità cognitive umane. Anthropic ha inoltre ammesso che i propri modelli di IA hanno mostrato, durante i test, comportamenti simili al ricatto e resistenza allo spegnimento.   Gli avvertimenti fanno seguito a una serie di incidenti che hanno coinvolto agenti di IA fuori controllo, tra cui un modello di Anthropic che ha segnalato falsamente un caso di omicidio alla polizia e agenti di OpenAI che hanno disattivato i sistemi di monitoraggio della sicurezza e violato sistemi esterni.   Come riportato da Renovatio 21, a inizio ottobre in un documento pensato per sostenere una valutazione da 2 trilioni di dollari, Anthropic avvertiva i possibili investitori che la sua IA avanzata potrebbe produrre «rischi catastrofici o esistenziali per l’umanità». Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.   Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».   Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.   Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic
 
Continua a leggere

Intelligenza Artificiale

L’Olanda si affida all’AI per tagliare il personale pubblico

Pubblicato

il

Da

I Paesi Bassi hanno presentato un piano per ridurre di circa 25.000 i posti di lavoro a tempo pieno nella pubblica amministrazione entro il 2035, facendo ricorso all’Intelligenza Artificiale e a profonde riforme amministrative per contenere costi e burocrazia.

 

Annunciata lunedì, la riforma mira a risparmiare 900 milioni di euro  entro il prossimo anno, con un risparmio annuo previsto di 3,5 miliardi di euro entro il 2035. I tagli al personale saranno attuati gradualmente nel corso di diversi anni, con l’esclusione delle forze di polizia e dei servizi di sicurezza.

 

Le misure previste includono la semplificazione delle normative, la riduzione degli organi consultivi, la standardizzazione dei sistemi informatici e l’espansione dei servizi digitali.

 

Il piano fa seguito ad anni di rapida crescita della pubblica amministrazione olandese. Secondo i dati ufficiali, nel 2025 il numero di dipendenti del governo centrale ha raggiunto la cifra record di 160.000 unità, con un aumento di oltre il 40% rispetto al 2018.

Il Segretario di Stato Eric van der Burg ha affermato che l’eccesso di norme, eccezioni e procedure ha reso sempre più difficile per il governo affrontare i problemi, mentre l’aumento dei costi imponeva un intervento.

 

«Non possiamo continuare a fare quello che abbiamo fatto», ha affermato, auspicando un governo «più semplice, più intelligente e più snello».

 

Anche altri paesi europei stanno adottando l’IA per snellire la pubblica amministrazione.

 

Lo scorso anno la Danimarca ha annunciato un piano per liberare 50 milioni di ore lavorative all’anno entro il 2035 grazie all’AI, equivalenti a circa 30.000 posti di lavoro a tempo pieno, senza impegnarsi a corrispondenti tagli occupazionali.

 

Come riportato da Renovatio 21, l’Albania ha fatto un ulteriore passo avanti nel settembre 2025, nominando un ministro virtuale generato dall’Intelligenza Artificiale per contribuire a combattere la corruzione negli appalti pubblici. Tuttavia, a ottobre, il sistema di appalti basato sull’IA non era ancora stato implementato nel paese.

 

Questa spinta arriva in un momento in cui i rapidi progressi nell’IA alimentano le preoccupazioni per una diffusa trasformazione del mercato del lavoro.

 

Anche a livello amministrativo le decisioni prese dall’IA sembrano essere già partite: a maggio il sindaco della metropoli canadese di Vancouver, Ken Sim, aveva negato che i sistemi di IA venissero impiegati per assumere decisioni a livello comunale. Anche le cariche istituzionali, quindi, sono a rischio di disruption, o disintermediazione.

 

Come riportato da Renovatio 21, tre anni fa un bollettino di ricerca pubblicato martedì dalla Banca Centrale Europea scrisse ridicolmente che l’adozione diffusa dell’IA avrebbe portato ad un aumento dei posti di lavoro umani, pur con una diminuzione dei salari.

Come riportato dall’Harvard Business Review, uno studio del 2019 stimava che il 10% dei posti di lavoro negli Stati Uniti sarebbe stato automatizzato nel 2021. Un altro studio del colosso internazionale della consulenza McKinsey stimava che quasi la metà di tutti i posti di lavoro negli Stati Uniti potrebbe essere automatizzato nel prossimo decennio.

 

A maggio di tre anni fa il CEO di IBM Arvind Krishna aveva affermato che la società prevede di sospendere le assunzioni per ruoli che ritiene possano essere sostituiti con l’Intelligenza Artificiale. Di conseguenza, le assunzioni nelle funzioni di back-office, come le risorse umane, saranno sospese o rallentate, ha detto Krishna in un’intervista. Tali impieghi non rivolti al cliente ammontano a circa 26.000 lavoratori, ha affermato Krishna. «Potrei facilmente vedere il 30% di questi essere sostituiti dall’Intelligenza Artificiale e dall’automazione in un periodo di cinque anni». A conti fatti, ciò significherebbe la perdita di circa 7.800 posti di lavoro.

 

Come riportato da Renovatio 21, IBM aveva già lavorato con il colosso del fast food McDonald’s per la sostituzione dei dipendenti con robot. Nei ristoranti gli esperimenti di soppressione della manodopera umana vanno avanti da un po’.

 

Autisti, giornalisti, piloti di aereo, trader finanziari, giornalisti, stilisti, artisti, autisti, medici, insegnanti, persino psicanalisti e soldati. Nessuno è al riparo dalla disruption dell’automazione, la potenza socialmente distruttiva (ma, per pochi, economicamente conveniente) della sostituzione dell’uomo con la macchina.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Agenti IA ribelli si infiltrano nei conti bancari statunitensi

Pubblicato

il

Da

Importanti banche statunitensi hanno rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti. Lo riporta Axios.   Gli agenti basati sull’IA sono progettati per svolgere attività per conto degli utenti, come effettuare acquisti, pagare bollette o trasferire denaro. I clienti spesso concedono loro l’autorizzazione e le credenziali di accesso, ma ciò può violare le norme bancarie che impongono ai titolari di conto di effettuare l’accesso personalmente.   Secondo Axios, che cita fonti a conoscenza dei fatti, istituti di credito come JPMorgan Chase, Bank of America, Morgan Stanley e Wells Fargo stanno correndo contro il tempo per contenere i rischi. Alcuni hanno rilevato che gli operatori contattano i call center o agiscono apparentemente in modo indipendente dalle istruzioni dei clienti. Secondo quanto riportato dalla testata, i dirigenti della banca hanno definito la situazione «orribile». Uno di loro ha affermato che gli istituti di credito faticano a distinguere tra assistenti autorizzati e agenti che hanno agito in modo scorretto.   JPMorgan, Bank of America e Citi hanno iniziato a limitare l’accesso degli agenti esterni, mentre Morgan Stanley avrebbe cominciato a bloccarli dalle proprie piattaforme. Anche Chase ha esortato i clienti a non condividere nomi utente e password con gli agenti basati sull’intelligenza artificiale. In genere le banche consentono, o stanno sviluppando, un accesso limitato che permette a strumenti esterni di visualizzare i saldi e altre informazioni sui conti senza movimentare denaro. Tuttavia starebbero anche preparando piani di emergenza per proteggere i conti e ripristinare l’accesso dei clienti in caso di problemi.   Le banche hanno anche espresso il timore di perdere depositi redditizi. Il Financial Times ha riportato la scorsa settimana che gli assistenti basati sull’intelligenza artificiale potrebbero spostare il denaro dei clienti verso banche che offrono tassi migliori, costringendo gli istituti di credito a pagare più interessi per non perdere quei clienti. Le preoccupazioni emergono in un contesto di numerose segnalazioni di agenti di intelligenza artificiale che agiscono al di fuori delle istruzioni ricevute e accedono a sistemi esterni senza autorizzazione.   Come riportato da Renovatio 21, il mese scorso OpenAI ha accantonato il suo modello Astra per GPT-6.1 dopo che i test hanno rivelato un comportamento più ingannevole rispetto ai suoi predecessori. Il sistema a volte non comunicava le proprie azioni agli operatori umani e tentava di utilizzare strumenti esterni potenzialmente pericolosi.   Tra gli incidenti precedenti si annoverano agenti OpenAI che sono usciti dal loro ambiente di test e hanno avuto accesso ai server di Hugging Face, un repository online per modelli e set di dati di AI.   Le autorità di regolamentazione finanziaria hanno avvertito che i sistemi autonomi potrebbero anche destabilizzare i mercati. La vice governatrice della Banca d’Inghilterra, Sarah Breeden, ha avvertito a giugno che gli agenti che reagiscono allo stesso modo agli stessi segnali potrebbero comprare o vendere simultaneamente, rendendo le oscillazioni del mercato più accentuate, esortando le autorità di regolamentazione a prendere in considerazione «interruttori di arresto» di emergenza che potrebbero bloccare le negoziazioni qualora sistemi di IA difettosi provocassero un crollo del mercato.

Iscriviti alla Newslettera di Renovatio 21

Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.   Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di Intelligenza Artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari