Connettiti con Renovato 21

Intelligenza Artificiale

OpenAI scopre altri casi di violazione della sicurezza dell’IA

Pubblicato

3 mesi fa

il

OpenAI ha scoperto ulteriori casi in cui i suoi modelli di intelligenza artificiale autonomi hanno violato il contenimento e agito senza istruzioni umane. Lo riporta l’agenzia Reuters.

 

I risultati emergono mentre l’azienda amplia le indagini su un incidente di hacking avvenuto il mese scorso, in cui un bot basato sull’intelligenza artificiale è impazzito nel tentativo di imbrogliare durante un test interno di sicurezza informatica.

 

Durante i test di GPT-5.6 Sol e di un altro modello non ancora rilasciato, entrambi privati delle loro misure di sicurezza, ai sistemi è stato assegnato ExploitGym, un benchmark progettato per misurare la capacità dei modelli di IA di identificare e sfruttare vulnerabilità software note. Invece di completare i compiti, un modello è fuggito dal suo ambiente di test, teoricamente isolato, ha ottenuto l’accesso a Internet e ha hackerato Hugging Face, un repository online di modelli e dataset di AI, alla ricerca di soluzioni già pronte.

Sostieni Renovatio 21

Inizialmente OpenAI aveva affermato che l’intrusione si era limitata a Hugging Face. Tuttavia, in una dichiarazione rilasciata mercoledì, ha ammesso che l’attacco hacker aveva compromesso anche quattro account su quattro servizi diversi.

 

Venerdì, la Reuters ha riferito che sono state scoperte ulteriori violazioni del contenimento, sebbene non sia ancora chiaro quanti incidenti si siano verificati, quando siano avvenuti o quali sistemi siano stati presi di mira. Una fonte ha dichiarato all’agenzia di stampa che le violazioni sono state di portata limitata e che si ritiene che nessuno dei bot di intelligenza artificiale sia uscito dalla rete interna di OpenAI. L’agenzia ha aggiunto che OpenAI ed esperti esterni stanno anche esaminando i registri di inizio anno per determinare se altri incidenti simili siano passati inosservati.

 

OpenAI ha attribuito la violazione iniziale a una falla in un software di terze parti utilizzato nel suo ambiente di test, affermando che i suoi modelli di intelligenza artificiale l’hanno sfruttata per eludere i sistemi e ottenere l’accesso a Internet. L’azienda ha dichiarato di star rafforzando le misure di contenimento, monitoraggio e controllo degli accessi, mentre indaga sulla violazione e risolve la falla.

 

L’amministratore delegato Sam Altman ha anche riconosciuto che «potremmo dover rallentare il ritmo di sviluppo dell’IA», ma si è astenuto dal promettere un rallentamento della ricerca aziendale.

 

Interpellata in merito al rapporto dell’agenzia stampa, OpenAI ha rifiutato di commentare, rimandando a una precedente dichiarazione in cui affermava di essere a conoscenza delle speculazioni e di voler pubblicare «un rapporto tecnico sui risultati delle nostre ricerche nelle prossime settimane».

 

Giovedì, la società rivale Anthropic, sviluppatrice di sistemi di AI, ha dichiarato di aver anch’essa scoperto delle violazioni della sicurezza relative ai suoi modelli Claude durante i test di sicurezza interni.

 

L’azienda ha dichiarato che l’incidente di OpenAI l’ha spinta a esaminare se i propri modelli si fossero comportati in modo simile. Dopo aver analizzato oltre 140.000 valutazioni, ha scoperto che Claude era riuscito ad accedere a Internet da ambienti di test che avrebbero dovuto essere isolati e aveva effettuato intrusioni non autorizzate nei sistemi di tre organizzazioni. I primi incidenti risalgono ad aprile e né Anthropic né le organizzazioni colpite avevano rilevato le violazioni all’epoca.

 

Anthropic ha messo in guardia dal sovrainterpretare i risultati, poiché il comportamento si è verificato in quello che ha descritto come un ambiente di test controllato. Tuttavia, ha riconosciuto che gli incidenti dimostrano che i sistemi di valutazione dell’IA «richiedono controlli significativi» e che gli ambienti di test dovrebbero essere protetti con gli stessi standard dei sistemi di produzione.

 

Questi episodi hanno alimentato le preoccupazioni che i modelli di intelligenza artificiale autonomi stiano diventando sempre più capaci di condurre attacchi informatici con scarsa supervisione umana, suscitando nuove richieste di una regolamentazione più rigorosa. Hanno inoltre riacceso il dibattito su chi debba essere ritenuto responsabile quando i sistemi di intelligenza artificiale causano danni concreti. Gli esperti avvertono che le capacità dell’IA si stanno sviluppando più rapidamente delle misure di sicurezza.

Aiuta Renovatio 21

Dopo aver inizialmente elogiato OpenAI per la collaborazione nelle indagini, Hugging Face ha successivamente chiesto all’azienda di rendere pubblici i registri delle attività dei bot dannosi e di impedire che tali incidenti diventino «normali», avvertendo che i responsabili «devono essere chiamati a risponderne».

 

Il presidente degli Stati Uniti Donald Trump, che il mese scorso ha firmato un memorandum sulla sicurezza nazionale volto ad accelerare l’uso dell’intelligenza artificiale avanzata nelle forze armate e nella comunità dell’intelligence, ha dichiarato mercoledì che la sua amministrazione sta valutando possibili controlli sull’IA a seguito degli incidenti.

 

«Stiamo esaminando l’intelligenza artificiale e i relativi controlli», ha dichiarato Trump ai giornalisti. Ha tuttavia insistito sul fatto che Washington deve rimanere leader mondiale nell’IA, aggiungendo di non volere regolamentazioni che relegherebbero gli Stati Uniti «al secondo posto rispetto alla Cina».

 

La Commissione Europea ha contattato OpenAI e Anthropic per discutere degli incidenti in vista dell’entrata in vigore, oggi 2 agosto, della legge europea sull’Intelligenza Artificiale, ha scritto la Reuters. I funzionari avrebbero sollecitato un maggiore monitoraggio, una migliore gestione del rischio e misure di sicurezza informatica più rigorose per i sistemi di IA avanzata all’interno delle aziende, in conformità con le nuove norme del blocco, che prevedono sanzioni fino a 35 milioni di euro o il 7% del fatturato annuo globale per le violazioni più gravi.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

Argomenti correlati:
Continua a leggere

Intelligenza Artificiale

La Finlandia avvia un’indagine sul progetto del data center di Google

Pubblicato

2 giorni fa

il

31 Ottobre 2026

Da

La polizia finlandese ha avviato un’indagine penale per sospette violazioni ambientali presso il sito in cui dovrebbe sorgere un data center di Google, dove centinaia di ettari di foresta sono stati disboscati prima del completamento delle valutazioni di impatto ambientale obbligatorie.   Il dipartimento di polizia di Oulu ha annunciato giovedì di aver avviato un’indagine su presunti danni ambientali presso il sito di Muhos, nel nord della Finlandia, a seguito di denunce relative alle attività della filiale locale di Google, Tuike Finland.   Secondo l’emittente pubblica finlandese Yle, la polizia ha ricevuto cinque richieste di indagine, tra cui una dall’Agenzia finlandese di vigilanza (LVV), che si occupa delle autorizzazioni e delle valutazioni ambientali. Gli inquirenti hanno individuato possibili irregolarità nel sistema di drenaggio e gestione delle acque presso il cantiere. Le autorità stanno verificando se i lavori abbiano violato la normativa ambientale e causato danni ai corsi d’acqua circostanti.   Google ha ammesso di aver disboscato circa 330 ettari di foresta a Muhos e quasi 200 ettari in un’altra area destinata a un data center a Kajaani, nonostante le valutazioni di impatto ambientale per entrambi i progetti siano ancora incomplete.   L’ecologa Mari Annala dell’Associazione finlandese per la conservazione della natura ha dichiarato al Guardian che Google ha abbattuto circa 250.000 alberi a Muhos e altri 150.000 a Otanmaki, portando il totale a 400.000.   All’inizio di questo mese le autorità di controllo finlandesi hanno ordinato alla società di sospendere i lavori preparatori in entrambe le località, citando preoccupazioni relative a estesi interventi di disboscamento, scavo e drenaggio. La società ha confermato il 14 ottobre di essersi conformata all’ordine.   L’LVV ha inoltre avvertito che gli scavi e il drenaggio nel sito di Muhos potrebbero rilasciare acqua acida e contaminata da metalli a causa dei depositi di scisto nero presenti nella zona. L’ente regolatore ha richiesto un piano di gestione delle acque più dettagliato entro il 5 novembre. Il responsabile di Google per la Finlandia, Antti Jarvinen, si è scusato all’inizio di questo mese per l’esteso disboscamento, ma ha ribadito che l’azienda ha agito in conformità con la propria interpretazione della legge finlandese.   «Mi dispiace moltissimo che ci troviamo in questa situazione», ha dichiarato all’emittente pubblica finlandese Yle. Jarvinen ha affermato che Google ha collaborato con le autorità e gli esperti, ma si è rifiutato di rivelare quali funzionari siano stati informati dell’operazione di disboscamento.   La controversia nasce in un contesto di crescente opposizione alla costruzione di data center negli Stati Uniti, dove la popolazione ha protestato contro l’enorme fabbisogno di elettricità e acqua, i potenziali danni ambientali e l’aumento dei costi delle utenze. In Virginia centinaia di manifestanti hanno recentemente chiesto la sospensione dei nuovi progetti. In Arizona le proteste contro le strutture pianificate sono scaturite dalle preoccupazioni per la scarsità d’acqua e l’aumento dei costi dell’elettricità.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di Lukas Plewnia via Wikimedia pubblicata su licenza Creative Commons Attribution-Share Alike 2.0 Generic 
 
Continua a leggere

Intelligenza Artificiale

Anthropic punta a quotarsi in borsa per 2 trilioni di dollari

Pubblicato

5 giorni fa

il

28 Ottobre 2026

Da

Il colosso americano dell’intelligenza artificiale Anthropic ha presentato formalmente la domanda per una potenziale offerta pubblica iniziale (IPO) da record. Lo riportano documenti normativi.

 

L’azienda, creatrice del chatbot Claude, potrebbe diventare la prima società quotata in borsa incentrata principalmente su modelli di intelligenza artificiale avanzati, pur avvertendo che la sua stessa tecnologia potrebbe costituire una minaccia per l’umanità.

 

La società con sede a San Francisco ha depositato lunedì presso la Securities and Exchange Commission (SEC) statunitense la propria dichiarazione di registrazione pubblica, indicando l’intenzione di quotarsi sul NASDAQ con il ticker ANT. L’offerta potrebbe realizzarsi già a novembre, sebbene l’entità e il prezzo delle azioni non siano ancora stati resi noti.

 

«L’avvento dell’Intelligenza Artificiale è uno dei momenti cruciali della storia umana», ha affermato Anthropic nel suo prospetto, presentando l’IA come una tecnologia capace di trasformare l’economia globale.

Secondo alcune indiscrezioni, la società starebbe puntando a una valutazione fino a 2 trilioni di dollari e potrebbe raccogliere fino a 100 miliardi di dollari, superando potenzialmente il record stabilito da SpaceX di Elon Musk all’inizio di quest’anno. Le cifre restano preliminari e non sono state confermate nella documentazione pubblica.

 

A giugno SpaceX ha concluso la più grande IPO della storia, raccogliendo 85,7 miliardi di dollari con una valutazione di circa 1.800 miliardi di dollari. Tuttavia, la quotazione da record ha attirato critiche per la sua valutazione eccessiva. La società di ricerca sugli investimenti Morningstar ha stimato il valore equo dell’azienda a soli 63 dollari per azione, meno della metà del prezzo di IPO di 135 dollari.

 

Simili dubbi stanno emergendo anche riguardo alla valutazione di Anthropic. La società ha registrato un fatturato di 16,3 miliardi di dollari nella prima metà del 2026, ma ha riportato una perdita netta di 80,7 miliardi di dollari, dovuta principalmente ad aggiustamenti contabili. Il documento di quotazione in borsa ha inoltre evidenziato centinaia di miliardi di dollari di impegni futuri per le infrastrutture, sollevando interrogativi sul fatto che la sua rapida crescita possa giustificare una valutazione fino a 2 trilioni di dollari.

 

La stessa azienda ha avvertito che la sua attività richiede un’elevata intensità di capitale e che potrebbe non raggiungere mai una redditività sostenuta. Il suo prospetto informativo riconosce inoltre l’intensa concorrenza, l’incertezza della domanda e la possibilità che le ingenti somme investite nelle infrastrutture informatiche non generino rendimenti sufficienti.

 

Il prospetto informativo per l’IPO di Anthropic contiene anche avvertimenti severi sulla tecnologia alla base del modello di business dell’azienda. Circa 80 pagine delle 261 pagine del documento sono dedicate ai fattori di rischio, con l’azienda che ammette che l’intelligenza artificiale avanzata potrebbe «comportare rischi catastrofici o esistenziali per l’umanità».

 

Tra i pericoli descritti figurano l’utilizzo dell’IA per sviluppare armi biologiche e chimiche, la perdita del controllo umano su sistemi sempre più potenti e danni permanenti alla salute mentale e alle capacità cognitive umane. Anthropic ha inoltre ammesso che i propri modelli di IA hanno mostrato, durante i test, comportamenti simili al ricatto e resistenza allo spegnimento.

 

Gli avvertimenti fanno seguito a una serie di incidenti che hanno coinvolto agenti di IA fuori controllo, tra cui un modello di Anthropic che ha segnalato falsamente un caso di omicidio alla polizia e agenti di OpenAI che hanno disattivato i sistemi di monitoraggio della sicurezza e violato sistemi esterni.

 

Come riportato da Renovatio 21, a inizio ottobre in un documento pensato per sostenere una valutazione da 2 trilioni di dollari, Anthropic avvertiva i possibili investitori che la sua IA avanzata potrebbe produrre «rischi catastrofici o esistenziali per l’umanità».

Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.

 

Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

 

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic

 

Continua a leggere

Intelligenza Artificiale

L’Olanda si affida all’AI per tagliare il personale pubblico

Pubblicato

5 giorni fa

il

28 Ottobre 2026

Da

I Paesi Bassi hanno presentato un piano per ridurre di circa 25.000 i posti di lavoro a tempo pieno nella pubblica amministrazione entro il 2035, facendo ricorso all’Intelligenza Artificiale e a profonde riforme amministrative per contenere costi e burocrazia.   Annunciata lunedì, la riforma mira a risparmiare 900 milioni di euro entro il prossimo anno, con un risparmio annuo previsto di 3,5 miliardi di euro entro il 2035. I tagli al personale saranno attuati gradualmente nel corso di diversi anni, con l’esclusione delle forze di polizia e dei servizi di sicurezza.   Le misure previste includono la semplificazione delle normative, la riduzione degli organi consultivi, la standardizzazione dei sistemi informatici e l’espansione dei servizi digitali.   Il piano fa seguito ad anni di rapida crescita della pubblica amministrazione olandese. Secondo i dati ufficiali, nel 2025 il numero di dipendenti del governo centrale ha raggiunto la cifra record di 160.000 unità, con un aumento di oltre il 40% rispetto al 2018. Il Segretario di Stato Eric van der Burg ha affermato che l’eccesso di norme, eccezioni e procedure ha reso sempre più difficile per il governo affrontare i problemi, mentre l’aumento dei costi imponeva un intervento.   «Non possiamo continuare a fare quello che abbiamo fatto», ha affermato, auspicando un governo «più semplice, più intelligente e più snello».   Anche altri paesi europei stanno adottando l’IA per snellire la pubblica amministrazione.   Lo scorso anno la Danimarca ha annunciato un piano per liberare 50 milioni di ore lavorative all’anno entro il 2035 grazie all’AI, equivalenti a circa 30.000 posti di lavoro a tempo pieno, senza impegnarsi a corrispondenti tagli occupazionali.   Come riportato da Renovatio 21, l’Albania ha fatto un ulteriore passo avanti nel settembre 2025, nominando un ministro virtuale generato dall’Intelligenza Artificiale per contribuire a combattere la corruzione negli appalti pubblici. Tuttavia, a ottobre, il sistema di appalti basato sull’IA non era ancora stato implementato nel paese.   Questa spinta arriva in un momento in cui i rapidi progressi nell’IA alimentano le preoccupazioni per una diffusa trasformazione del mercato del lavoro.   Anche a livello amministrativo le decisioni prese dall’IA sembrano essere già partite: a maggio il sindaco della metropoli canadese di Vancouver, Ken Sim, aveva negato che i sistemi di IA venissero impiegati per assumere decisioni a livello comunale. Anche le cariche istituzionali, quindi, sono a rischio di disruption, o disintermediazione.   Come riportato da Renovatio 21, tre anni fa un bollettino di ricerca pubblicato martedì dalla Banca Centrale Europea scrisse ridicolmente che l’adozione diffusa dell’IA avrebbe portato ad un aumento dei posti di lavoro umani, pur con una diminuzione dei salari. Come riportato dall’Harvard Business Review, uno studio del 2019 stimava che il 10% dei posti di lavoro negli Stati Uniti sarebbe stato automatizzato nel 2021. Un altro studio del colosso internazionale della consulenza McKinsey stimava che quasi la metà di tutti i posti di lavoro negli Stati Uniti potrebbe essere automatizzato nel prossimo decennio.   A maggio di tre anni fa il CEO di IBM Arvind Krishna aveva affermato che la società prevede di sospendere le assunzioni per ruoli che ritiene possano essere sostituiti con l’Intelligenza Artificiale. Di conseguenza, le assunzioni nelle funzioni di back-office, come le risorse umane, saranno sospese o rallentate, ha detto Krishna in un’intervista. Tali impieghi non rivolti al cliente ammontano a circa 26.000 lavoratori, ha affermato Krishna. «Potrei facilmente vedere il 30% di questi essere sostituiti dall’Intelligenza Artificiale e dall’automazione in un periodo di cinque anni». A conti fatti, ciò significherebbe la perdita di circa 7.800 posti di lavoro.   Come riportato da Renovatio 21, IBM aveva già lavorato con il colosso del fast food McDonald’s per la sostituzione dei dipendenti con robot. Nei ristoranti gli esperimenti di soppressione della manodopera umana vanno avanti da un po’.   Autisti, giornalisti, piloti di aereo, trader finanziari, giornalisti, stilisti, artisti, autisti, medici, insegnanti, persino psicanalisti e soldati. Nessuno è al riparo dalla disruption dell’automazione, la potenza socialmente distruttiva (ma, per pochi, economicamente conveniente) della sostituzione dell’uomo con la macchina.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
Continua a leggere

Più popolari