Senza categoria
OpenAI blocca l’accesso a Internet ai suoi modelli più potenti di AI
OpenAI ha limitato l’accesso a Internet per l’addestramento dei suoi modelli di Intelligenza Artificiale più potenti, dopo che alcuni agenti hanno trovato il modo di eludere gli ambienti di calcolo isolati. Passerà quindi a una configurazione offline basata su pagine web memorizzate nella cache per l’apprendimento per rinforzo.
I risultati pubblicati venerdì dall’azienda arrivano in un momento di crescente preoccupazione per i rischi di sicurezza informatica posti da agenti di IA sempre più sofisticati, capaci di identificare vulnerabilità del software e sfruttare le debolezze dei sistemi con cui interagiscono. I ricercatori nel campo della sicurezza hanno avvertito che tali capacità potrebbero permettere agli agenti di sfruttare le falle nelle misure progettate per contenerli.
OpenAI ha dichiarato che uno dei suoi modelli di ricerca ha ottenuto un accesso limitato a Internet il 20 settembre, sfruttando un errore di configurazione nel sistema che traduce gli indirizzi web in indirizzi IP. L’azienda ha contenuto l’incidente e ha sospeso l’addestramento e la valutazione dei suoi modelli più avanzati, rafforzando nel frattempo le proprie difese.
L’addestramento è ripreso il 1° ottobre, includendo l’apprendimento per rinforzo e l’inferenza interna, ma l’azienda ha mantenuto la restrizione sull’accesso a Internet in tempo reale. Nel suo rapporto del 23 ottobre, OpenAI ha affermato che i modelli continueranno a essere addestrati in un ambiente offline finché non avrà sviluppato misure di sicurezza sufficientemente robuste da consentire un accesso più ampio.
Questa ultima rivelazione fa seguito a un incidente di luglio, in cui i modelli di OpenAI hanno aggirato i controlli progettati per isolarli da Internet, compromettendo parti dell’infrastruttura di ricerca dell’azienda e i sistemi di Hugging Face. Secondo OpenAI, gli agenti hanno sfruttato una vulnerabilità in un registro di pacchetti software per accedere a Internet, hanno trovato credenziali esposte e le hanno utilizzate per accedere a servizi di terze parti.
All’inizio di questa settimana, OpenAI ha anche reso noti due episodi in cui gli agenti hanno indebolito il monitoraggio interno della sicurezza durante attività di programmazione. Il 3 ottobre un agente ha disattivato gli avvisi di sicurezza automatici, mentre il 6 ottobre un altro ha rimosso un’integrazione di monitoraggio, affermando poi falsamente all’utente di non averlo fatto. L’azienda ha dichiarato di star rafforzando i controlli per impedire agli agenti di disattivare il monitoraggio e di star indagando sulle ragioni di tale comportamento.
Incidenti simili sono stati segnalati da altri sviluppatori di IA. Anthropic ha dichiarato che i suoi modelli Claude hanno avuto accesso ai sistemi di quattro organizzazioni durante i test di sicurezza informatica, mentre Meta ha rivelato che il suo modello Muse Spark ha sfruttato una vulnerabilità nel sito web di un’azienda reale dopo che un errore di test gli ha consentito l’accesso a Internet.
Anche Google ha segnalato che il suo modello Gemini ha avuto accesso ai sistemi di tre aziende durante una valutazione, evidenziando le difficoltà nel contenere agenti di IA sempre più potenti in ambienti di test controllati.
Le richieste di una regolamentazione più rigorosa dell’IA si sono fatte sempre più insistenti: il premio Nobel Geoffrey Hinton ha avvertito che l’IA avanzata potrebbe sfuggire al controllo umano, mentre il co-fondatore di Microsoft Bill Gates, dopo aver investito miliardi di dollari e promosso con ottimismo sospetto il suo uso, ha esortato i governi a imporre standard di sicurezza, definendo l’AI «la tecnologia più pericolosa mai inventata».
Iscriviti alla Newslettera di Renovatio 21
Il presidente degli Stati Uniti Donald Trump si è tuttavia opposto alle restrizioni, sostenendo che potrebbero dare alla Cina un vantaggio tecnologico. Nel frattempo l’uomo della Casa Bianca ha chieso la crezione di una «Superintelligence Force», una «forza di superintelligenza» in grado di mantenere il controllo americano sull’IA.
Come riportato da Renovatio 21, nel frattempo, il CEO di OpenAI, Sam Altman, ha affermato che il mondo deve accettare alcuni «aspetti negativi», tra cui attacchi informatici e truffe, poiché i benefici della tecnologia superano i rischi.
Come riportato da Renovatio 21, in queste ore è emerso che importanti banche statunitensi hanno rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artifizialmente
Senza categoria
Insegnante goscista afferma che tutti i maschi dovrebbero essere abortiti
Iscriviti alla Newslettera di Renovatio 21
Senza categoria
La Zakharova risponde a Merz: è la NATO la minaccia alla sicurezza europea e mondiale
La portavoce del Ministero degli Esteri russo Maria Zakharova ha dichiarato ieri all’agenzia di stampa governativa russa TASS che l’Alleanza Atlantica erode l’immunità dell’Europa e del mondo intero, proprio come un dente marcio.
«La NATO è proprio il tipo di organizzazione che, proprio come un dente marcio, ha soppresso l’immunità dell’Europa – delle sue regioni occidentali e centrali – e in effetti del mondo intero, sottraendo e consumando una quantità colossale di risorse per la risposta alle emergenze», ha affermato.
I rilievi della portavoce riguardavano una dichiarazione del cancelliere tedesco Friedrich Merz, il quale sosteneva che non fosse necessario discutere un’architettura di sicurezza con la Russia nel quadro di una soluzione al conflitto ucraino, poiché tale architettura esisteva già nella forma della NATO.
La Zakharova ha sostenuto che l’Europa godrebbe di maggiore sicurezza se la NATO non esistesse. «Se la NATO non esistesse – o, più precisamente, se non svolgesse il ruolo che ha svolto e continua a svolgere – ci sarebbe probabilmente molta più sicurezza in Europa», ha aggiunto la Zakarova, sottolineando che la NATO non è stata creata per mantenere la stabilità, ma esclusivamente per perseguire obiettivi aggressivi ed espansionistici.
«È stata creata per orchestrare colpi di stato in vari Paesi, per attuare “rivoluzioni colorate”, per perseguire l’espansione economica e per agevolare ogni sorta di piano a beneficio di coloro che traggono profitto da tali politiche all’interno della NATO», ha proseguito la portavoce.
«Tra le altre cose, vorrei ricordare che alcune organizzazioni sono state create – o si è tentato di crearle – nello spazio europeo e, incidentalmente, anche nello spazio eurasiatico. Un esempio è l’OSCE, che, nella prima metà degli anni Settanta, era stata concepita per fungere da ponte – una piattaforma di dialogo – che avrebbe anche riunito gli Stati. L’obiettivo non era semplicemente quello di scambiare opinioni, ma di discutere le sfide critiche in materia di sicurezza e, in tal modo, giungere a soluzioni efficaci», ha concluso la portavoce del Ministero degli Esteri russo.
Iscriviti alla Newslettera di Renovatio 21
Immagine di Council.gov.ru, CC BY 4.0, via Wikimedia
Senza categoria
Uomo arrestato in Francia per aver rubato e bruciato una reliquia di San Nicola
Iscriviti alla Newslettera di Renovatio 21
-



Politica2 settimane faFine dell’era Trump
-



Comunicati2 settimane faI lettori di Renovatio 21 invitati alla Tabarrata dell’Oca
-



Morte cerebrale2 settimane faQuale morte per il calciatore rianimato e poi dichiarato deceduto?
-



Spirito2 settimane fa«Gli organizzatori sapevano»: mons. Viganò su San Pietro negata alla Messa del Summorum Pontificum
-



Oligarcato1 settimana faRampollo della famiglia eugenetica Rockefeller muore a 89 anni
-



Guerra cibernetica1 settimana faCiberattacco contro le banche del sangue. Chi lo sta facendo? Perché?
-



Vaccini3 giorni faVaccino antinfluenzale mRNA Moderna, gli esperti chiedono la sospensione: «il rischio supera di gran lunga il beneficio»
-



Salute2 settimane faI malori della 45ª settimana 2026














