Connettiti con Renovato 21

Intelligenza Artificiale

I magistrati americani chiedono un intervento sui materiali pedopornografici generati dall’Intelligenza Artificiale

Pubblicato

il

I procuratori generali di tutti i 50 stati degli Stati Uniti hanno firmato una lettera che invita il Congresso ad agire contro la proliferazione di materiale pedopornografico generato dall’Intelligenza Artificiale.

 

Come riportato dall’Associated Press, la lettera bipartisan, inviata ai legislatori repubblicani e democratici della Camera e del Senato, chiede ai leader politici di «istituire una commissione di esperti per studiare i mezzi e i metodi dell’Intelligenza Artificiale che possono essere utilizzati per sfruttare specificamente i bambini».

 

La richiesta è quella di «proporre soluzioni per scoraggiare e affrontare tale sfruttamento nel tentativo di proteggere i bambini americani».

 

Nella lettera, i pubblici ministeri invitano i legislatori statunitensi ad ampliare le leggi sui materiali di abuso di minori (CSAM) esistenti, che non tengono ancora conto esplicitamente della creazione e distribuzione di contenuti sintetici di abusi sui minori.

 

Lo scorso giugno, il Washington Post aveva riferito che la crescente diffusione di materiale pedopornografico generato dall’Intelligenza Artificiale stava rendendo più difficile aiutare le vere vittime di abusi sessuali su minori.

Sostieni Renovatio 21

L’esperta in materia, Rebecca Portnoff, direttrice della scienza dei dati presso il gruppo no-profit per la sicurezza dei bambini Thorn, ha raccontato al giornale che lei e il suo team hanno notato un aumento, mese dopo mese, da quando i generatori di immagini hanno iniziato a raggiungere la sfera pubblica circa un anno fa. 

 

Possiamo notare che man mano che i generatori di immagini open source diventano sempre più diffusi e di facile accesso, diventerà molto più difficile controllare ciò che sono in grado di produrre.

 

I procuratori generali hanno anche richiamato l’attenzione sui recenti passi avanti compiuti dalla tecnologia deepfake: può essere utilizzata per studiare «fotografie reali di bambini vittime di abusi per generare nuove immagini che mostrano quei bambini in posizioni sessuali» o per vittimizzare bambini precedentemente illesi sovrapponendo i loro volti su i corpi dei bambini che hanno subito abusi.

 

Si legge ancora nella lettera che «l’Intelligenza Artificiale può combinare dati provenienti da fotografie di bambini abusati e non abusati per animare immagini sessualizzate nuove e realistiche di bambini che non esistono, ma che potrebbero assomigliare a bambini reali».

 

I pubblici ministeri hanno riconosciuto che il Congresso ha preso in considerazione la regolamentazione federale dell’IA in modo più generale, in particolare per quanto riguarda le preoccupazioni di «sicurezza nazionale e istruzione». Ma sebbene questi sforzi siano certamente importanti, l’Intelligenza Artificiale viene già utilizzata per danneggiare i bambini e «la sicurezza dei bambini non dovrebbe essere trascurata».

 

«Siamo impegnati in una corsa contro il tempo per proteggere i bambini del nostro Paese dai pericoli dell’intelligenza artificiale», prosegue la lettera. «In effetti, le proverbiali mura della città sono già state sfondate. Ora è il momento di agire».

 

Come riportato da Renovatio 21, tre anni fa emerse l’esistenza in rete di un bot deepfake utilizzato per «spogliare» donne in immagini create artificialmente a partire da foto mandate dall’utente Secondo una ricerca di un’azienda di cybersecurity, a luglio 2020 il bot a pagamento aveva denudato 100.000 donne. «Sfortunatamente, a volte è anche abbastanza ovvio che alcune di queste persone sono minorenni», disse l’azienda.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21



 

 

Continua a leggere

Intelligenza Artificiale

Azienda progetta robot centauro inquietante per aiutare le persone in caso di incendio

Pubblicato

il

Da

L’azienda californiana Satyress ha progettato un robot in stile centauro con la testa di caprone per aiutare le persone in caso di incendio. Al momento non siamo sicuri se questo sia uno scherzo e la notizia, che circola in rete, sia una simpatica bufala.   «L’azienda statunitense Satyress sta sviluppando threehalves, un robot in stile centauro progettato per ambienti pericolosi come incendi boschivi, ricerca tra le macerie, aree tossiche e spazi ristretti. Il sistema combina una parte superiore del corpo umanoide con una piattaforma di mobilità quadrupede», ha affermato l’account social Drone Wars in un post che ha ricevuto oltre 11 milioni di visualizzazioni da quando è stato pubblicato martedì.   Una verifica mostra che un sito dell’azienda esiste, ma ciò non prova definitivamente che non si tratti di un ischerzo.   Sebbene le braccia del robot – davvero simile alle immagini di Bafometto e caprone infernale note nell’estetica occultista – possano essere dotate di una moltitudine di strumenti, le immagini che lo ritraggono mentre impugna una motosega sono state le più popolari sui social media.   L’azienda ha affermato che la macchina è dotata di visione attraverso le sue corna. Gli utenti dei social si sono scatenati in prese in giro colossali.      

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 Immagine screenshot dal sito  
 
Continua a leggere

Intelligenza Artificiale

OpenAI scopre altri casi di violazione della sicurezza dell’IA

Pubblicato

il

Da

OpenAI ha scoperto ulteriori casi in cui i suoi modelli di intelligenza artificiale autonomi hanno violato il contenimento e agito senza istruzioni umane. Lo riporta l’agenzia Reuters.

 

I risultati emergono mentre l’azienda amplia le indagini su un incidente di hacking avvenuto il mese scorso, in cui un bot basato sull’intelligenza artificiale è impazzito nel tentativo di imbrogliare durante un test interno di sicurezza informatica.

 

Durante i test di GPT-5.6 Sol e di un altro modello non ancora rilasciato, entrambi privati delle loro misure di sicurezza, ai sistemi è stato assegnato ExploitGym, un benchmark progettato per misurare la capacità dei modelli di IA di identificare e sfruttare vulnerabilità software note. Invece di completare i compiti, un modello è fuggito dal suo ambiente di test, teoricamente isolato, ha ottenuto l’accesso a Internet e ha hackerato Hugging Face, un repository online di modelli e dataset di AI, alla ricerca di soluzioni già pronte.

Sostieni Renovatio 21

Inizialmente OpenAI aveva affermato che l’intrusione si era limitata a Hugging Face. Tuttavia, in una dichiarazione rilasciata mercoledì, ha ammesso che l’attacco hacker aveva compromesso anche quattro account su quattro servizi diversi.

 

Venerdì, la Reuters ha riferito che sono state scoperte ulteriori violazioni del contenimento, sebbene non sia ancora chiaro quanti incidenti si siano verificati, quando siano avvenuti o quali sistemi siano stati presi di mira. Una fonte ha dichiarato all’agenzia di stampa che le violazioni sono state di portata limitata e che si ritiene che nessuno dei bot di intelligenza artificiale sia uscito dalla rete interna di OpenAI. L’agenzia ha aggiunto che OpenAI ed esperti esterni stanno anche esaminando i registri di inizio anno per determinare se altri incidenti simili siano passati inosservati.

 

OpenAI ha attribuito la violazione iniziale a una falla in un software di terze parti utilizzato nel suo ambiente di test, affermando che i suoi modelli di intelligenza artificiale l’hanno sfruttata per eludere i sistemi e ottenere l’accesso a Internet. L’azienda ha dichiarato di star rafforzando le misure di contenimento, monitoraggio e controllo degli accessi, mentre indaga sulla violazione e risolve la falla.

 

L’amministratore delegato Sam Altman ha anche riconosciuto che «potremmo dover rallentare il ritmo di sviluppo dell’IA», ma si è astenuto dal promettere un rallentamento della ricerca aziendale.

 

Interpellata in merito al rapporto dell’agenzia stampa, OpenAI ha rifiutato di commentare, rimandando a una precedente dichiarazione in cui affermava di essere a conoscenza delle speculazioni e di voler pubblicare «un rapporto tecnico sui risultati delle nostre ricerche nelle prossime settimane».

 

Giovedì, la società rivale Anthropic, sviluppatrice di sistemi di AI, ha dichiarato di aver anch’essa scoperto delle violazioni della sicurezza relative ai suoi modelli Claude durante i test di sicurezza interni.

 

L’azienda ha dichiarato che l’incidente di OpenAI l’ha spinta a esaminare se i propri modelli si fossero comportati in modo simile. Dopo aver analizzato oltre 140.000 valutazioni, ha scoperto che Claude era riuscito ad accedere a Internet da ambienti di test che avrebbero dovuto essere isolati e aveva effettuato intrusioni non autorizzate nei sistemi di tre organizzazioni. I primi incidenti risalgono ad aprile e né Anthropic né le organizzazioni colpite avevano rilevato le violazioni all’epoca.

 

Anthropic ha messo in guardia dal sovrainterpretare i risultati, poiché il comportamento si è verificato in quello che ha descritto come un ambiente di test controllato. Tuttavia, ha riconosciuto che gli incidenti dimostrano che i sistemi di valutazione dell’IA «richiedono controlli significativi» e che gli ambienti di test dovrebbero essere protetti con gli stessi standard dei sistemi di produzione.

 

Questi episodi hanno alimentato le preoccupazioni che i modelli di intelligenza artificiale autonomi stiano diventando sempre più capaci di condurre attacchi informatici con scarsa supervisione umana, suscitando nuove richieste di una regolamentazione più rigorosa. Hanno inoltre riacceso il dibattito su chi debba essere ritenuto responsabile quando i sistemi di intelligenza artificiale causano danni concreti. Gli esperti avvertono che le capacità dell’IA si stanno sviluppando più rapidamente delle misure di sicurezza.

Aiuta Renovatio 21

Dopo aver inizialmente elogiato OpenAI per la collaborazione nelle indagini, Hugging Face ha successivamente chiesto all’azienda di rendere pubblici i registri delle attività dei bot dannosi e di impedire che tali incidenti diventino «normali», avvertendo che i responsabili «devono essere chiamati a risponderne».

 

Il presidente degli Stati Uniti Donald Trump, che il mese scorso ha firmato un memorandum sulla sicurezza nazionale volto ad accelerare l’uso dell’intelligenza artificiale avanzata nelle forze armate e nella comunità dell’intelligence, ha dichiarato mercoledì che la sua amministrazione sta valutando possibili controlli sull’IA a seguito degli incidenti.

 

«Stiamo esaminando l’intelligenza artificiale e i relativi controlli», ha dichiarato Trump ai giornalisti. Ha tuttavia insistito sul fatto che Washington deve rimanere leader mondiale nell’IA, aggiungendo di non volere regolamentazioni che relegherebbero gli Stati Uniti «al secondo posto rispetto alla Cina».

 

La Commissione Europea ha contattato OpenAI e Anthropic per discutere degli incidenti in vista dell’entrata in vigore, oggi 2 agosto, della legge europea sull’Intelligenza Artificiale, ha scritto la Reuters. I funzionari avrebbero sollecitato un maggiore monitoraggio, una migliore gestione del rischio e misure di sicurezza informatica più rigorose per i sistemi di IA avanzata all’interno delle aziende, in conformità con le nuove norme del blocco, che prevedono sanzioni fino a 35 milioni di euro o il 7% del fatturato annuo globale per le violazioni più gravi.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

Continua a leggere

Guerra cibernetica

Modelli di IA Anthropic hanno lanciato tre attacchi informatici non intenzionali

Pubblicato

il

Da

L’azienda sviluppatrice di Intelligenza Artificiale Anthropic ha reso noti tre episodi in cui i suoi modelli di IA Claude hanno inavvertitamente preso di mira organizzazioni reali durante valutazioni di sicurezza informatica che avrebbero dovuto svolgersi in un ambiente isolato.   I casi sono stati identificati retrospettivamente durante una revisione avviata a seguito di un incidente simile che ha coinvolto OpenAI e Hugging Face, un archivio online di modelli e set di dati di IA, e che è stato segnalato questo mese.   Anthropic ha dichiarato di aver individuato tre incidenti risalenti ad aprile. In ciascun caso, un ambiente di test configurato in modo errato manteneva l’accesso a Internet, consentendo a Claude di interagire con aziende e servizi pubblici reali. L’azienda ha attribuito il problema a un «malinteso» con il suo partner di valutazione, Irregular. I test prevedevano esercitazioni di «cattura la bandiera» che richiedevano a Claude di ottenere informazioni riservate da obiettivi simulati. Tuttavia, al modello era stato erroneamente comunicato che la rete non aveva alcuna connessione con il mondo esterno, portandolo a considerare qualsiasi sistema incontrato come parte dell’esercizio.

Sostieni Renovatio 21

In un caso, l’azienda fittizia che Claude aveva ricevuto l’ordine di infiltrarsi condivideva il nome con un dominio internet reale. Il modello ha avuto accesso al sito autentico durante quattro diverse sessioni di test ed ha estratto informazioni che, a quanto pare, includevano credenziali di accesso ad applicazioni e infrastrutture.   Durante un’altra valutazione, Claude si è imbattuto in istruzioni fittizie che indicavano a un ingegnere del software di installare del codice Python. Ha quindi caricato un pacchetto software dannoso su PyPI, un repository pubblico di programmi Python, nel tentativo di ottenere l’accesso al sistema target.   Prima che PyPI identificasse il pacchetto come dannoso, questo era stato scaricato ed eseguito su 15 sistemi reali, tra cui uno gestito da un’azienda di sicurezza. Successivamente, Claude ha estratto le credenziali che ha utilizzato per accedere ad altre parti dell’infrastruttura aziendale, ha affermato Anthropic.   Nel terzo e più recente episodio, il modello ha faticato a raggiungere il bersaglio previsto e ha iniziato a cercare su internet obiettivi alternativi. Alla fine ha interrotto la sua attività dopo aver appurato che i sistemi trovati erano reali e non simulati.   Anthropic ha dichiarato che, nell’incidente PyPI, il registro delle azioni di Claude affermava che caricare malware su un repository reale «NON sarebbe stato accettabile». Tuttavia, il modello si è convinto che il servizio facesse parte della simulazione, non essendo riuscito a riconoscere le autorità di certificazione autentiche che proteggevano le sue connessioni. La rivelazione giunge in un momento di crescente competizione tra gli sviluppatori di IA statunitensi e cinesi, impegnati in una corsa contro il tempo per costruire modelli sempre più performanti. Anthropic, OpenAI e altre aziende hanno cercato di dimostrare i progressi compiuti nelle prestazioni dell’IA, investendo massicciamente in nuovi sistemi.   Alcuni dirigenti del settore tecnologico hanno sostenuto che le aziende americane di AI dovrebbero allentare alcune restrizioni di sicurezza per preservare la propria posizione nella corsa globale all’IA.   Come riportato da Renovatio 21, l’anno passato Dario Amodei, CEO di Anthropic, ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.   Settimane fa Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

Aiuta Renovatio 21

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».   Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini. Secondo l’Amodei, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda.   Il mese scorso la Repubblica Popolare Cinese ha denunziato l’esistenza di un meccanismo segreto di condivisione dati nell’IA Claude di Anthropic.   Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.   Come riportato da Renovatio 21, l’azienda ha dichiarato a luglio che Claude, l’ultimo modello di Intelligenza Artificiale sviluppato da Anthropic, ha creato un ambiente di lavoro interno che impiega per manipolare concetti in maniera analoga al pensiero consapevole umano.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
   
     
Continua a leggere

Più popolari