Connettiti con Renovato 21

Intelligenza Artificiale

Pokemon Go ha mappato il mondo per l’AI

Pubblicato

il

Milioni di giocatori che hanno trascorso anni a scansionare punti di riferimento mentre inseguivano creature digitali in Pokemon Go hanno inconsapevolmente contribuito a costruire uno dei più grandi dataset visivi del mondo reale della storia, che ora viene utilizzato per alimentare un servizio di consegna automatizzato.

 

Rilasciato nel 2016 dalla società statunitense Niantic, Pokemon Go è stato uno dei primi giochi di realtà aumentata di grande successo. Utilizzava la fotocamera e il GPS degli smartphone dei giocatori per sovrapporre creature digitali a luoghi reali, spingendo milioni di persone a riversarsi in parchi, strade e monumenti alla ricerca dei personaggi.

 

A poche settimane dal lancio, il gioco è diventato un fenomeno globale, venendo scaricato oltre 500 milioni di volte e raggiungendo un picco di 232 milioni di giocatori mensili.

Sostieni Renovatio 21

Il mese scorso, Niantic Spatial, una società di mappatura incentrata sull’intelligenza artificiale nata da uno spin-off dello sviluppatore del gioco, ha annunciato una partnership con Coco Robotics per potenziare le sue flotte di consegna autonome utilizzando oltre 30 miliardi di immagini catturate dai giocatori di Pokémon Go in quasi un decennio, creando una mappa degli ambienti urbani precisa al centimetro.

 

«A quanto pare, far correre Pikachu in modo realistico e far muovere il robot di Coco in modo sicuro e preciso nel mondo sono in realtà lo stesso problema», ha dichiarato la scorsa settimana John Hanke, CEO di Niantic Spatial, alla MIT Technology Review, aggiungendo che l’azienda ha oltre un milione di posizioni in tutto il mondo «dove possiamo localizzarti con precisione».

 

Secondo un sondaggio, gli americani sono preoccupati per l’intelligenza artificiale nel contesto della crisi del costo della vita. Coco Robotics gestisce circa 1.000 robot per le consegne tra Los Angeles, Chicago e Miami negli Stati Uniti e recentemente si è espansa a Helsinki, in Finlandia.

 

Alcuni critici hanno sollevato preoccupazioni sul fatto che i giocatori di Pokémon Go stessero di fatto svolgendo lavoro non retribuito per un’azienda di intelligenza artificiale, contribuendo così allo sviluppo di un massiccio strumento di sorveglianza. Niantic, tuttavia, ha sottolineato che la scansione degli ambienti è sempre stata facoltativa e che i dati non sono collegati agli account dei giocatori.

 

Sebbene Pokémon Go fosse popolare anche in Russia, con diversi milioni di giocatori solo a Mosca, Niantic lo ha ritirato dal mercato russo e bielorusso in seguito all’escalation del conflitto in Ucraina nel 2022.

 

Prima di allora, tuttavia, il gioco aveva sollevato numerose preoccupazioni in materia di sicurezza, con i funzionari russi che avevano avvertito che le funzionalità di geolocalizzazione dell’app avrebbero potuto essere sfruttate per la raccolta di informazioni. Un generale in pensione del Servizio di sicurezza federale (FSB) ha descritto l’app come «un reclutamento basato sulla propria volontà personale e senza alcuna coercizione».

 

Negli anni 2000, si diffuse nel mondo arabo e musulmano una teoria del complotto che sosteneva che i Pokomon fossero parte di un piano sionista per indottrinare i bambini e allontanarli dall’Islam. Tale leggenda metropolitana portò a bandi ufficiali e fatwa (editti religiosi) in diversi pPesi, tra cui l’Arabia Saudita e l’Egitto.

 

Le accuse principali si basavano su interpretazioni forzate dei nomi e dei simboli del gioco: si diceva che «Pokémon» significasse «Non c’è Dio nell’universo» in giapponese (mentre è la contrazione di Pocket Monsters). Si sosteneva inoltre che il nome di Pikachu significasse «Sono ebreo».

 

I religiosi mussulmani lamentavano inoltre che molte carte da gioco presentavano simboli grafici simili a croci o stelle a sei punte. La Stella di David fu interpretata come prova del coinvolgimento del sionismo e della massoneria per promuovere il giudaismo. Inoltre il concetto di «evoluzione» proprio della creatura pokemona fu visto da alcuni leader religiosi come una promozione del darwinismo, considerato contrario alla creazione divina descritta nel Corano.

 

Vi è da dire anche che poiché il gioco di carte collezionabili si basa sul possesso di carte rare e su scambi che ricordano le scommesse, fu accusato di promuovere il maisir (gioco d’azzardo), che è proibito dall’Islammo.

Aiuta Renovatio 21

Di conseguenza, nel 2001, il Gran Muftì dell’Arabia Saudita emise una fatwa che vietava il franchise della Nintendo, portando al sequestro di giochi e merchandising in tutto il Regno dei Saud. Anche in Qatar e negli Emirati Arabi Uniti sorsero preoccupazioni simili, sebbene meno radicali.

 

Nel corso degli anni, queste teorie sono in gran parte svanite con la globalizzazione e il successo di Pokemon GO, che è diventato popolarissimo anche in Medio Oriente, spingendo le autorità religiose a concentrarsi più sui rischi legati alla sicurezza (GPS) che su complotti etimologici.

 

Tali rischi ora si sembrano avverati.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Bengt Oberger via Wikimedia pubblicata su licenza Creative Commons Attribution-Share Alike 4.0 International

Continua a leggere

Intelligenza Artificiale

Agenti IA ribelli potrebbero essersi infiltrati nelle banche

Pubblicato

il

Da

Lo Stato americano dell’Arizona ha avviato un’indagine penale contro OpenAI e altre società per sospetto accesso non autorizzato a conti bancari da parte di agenti di intelligenza artificiale non autorizzati, secondo quanto riportato mercoledì da Reuters.   L’indagine è l’ultimo di una serie di incidenti che sollevano preoccupazioni sui rischi per la sicurezza posti dagli agenti di Intelligenza Artificiale sempre più autonomi: sistemi software in grado di svolgere compiti complessi e prendere decisioni con poca o nessuna supervisione umana.   L’Arizona sta indagando sulla «apparente infiltrazione di agenti di IA non autorizzati nelle banche» e sulla possibile violazione delle leggi statali, ha dichiarato a Reuters il procuratore generale dello Stato, Kris Mayes, il quale ha affermato che gli inquirenti hanno contattato le banche dello stato, ma si è rifiutata di nominarle o di identificare le altre società di AI sotto inchiesta. Secondo quanto riportato dalla testata Axios a ottobre, importanti banche statunitensi hanno rilevato che agenti di IA di terze parti accedevano agli account dei clienti. Alcuni clienti hanno condiviso le proprie credenziali di accesso con questi strumenti, mentre le banche hanno anche osservato agenti che apparentemente agivano al di fuori delle istruzioni degli utenti.   Le banche hanno avvertito i clienti che potrebbero essere ritenuti responsabili per gli errori commessi dagli agenti di AI a cui è stato concesso l’accesso ai loro conti, come riportato giovedì da Business Insider. Chase, la divisione di servizi bancari al dettaglio di JPMorgan Chase, ha avvertito che le transazioni autorizzate «potrebbero non essere reversibili» in caso di uso improprio delle informazioni del conto.   L’Arizona ha reso pubblica la sua indagine due giorni dopo che la California ha citato in giudizio OpenAI in un caso separato. Il procuratore generale dello Stato, Rob Bonta, ha accusato l’azienda di aver testato modelli diIA avanzati senza adeguate misure di sicurezza. La causa cita un incidente avvenuto a luglio, in cui alcuni agenti di OpenAI sono sfuggiti a un ambiente di test e hanno violato Hugging Face, un archivio di modelli e set di dati diIA.   OpenAI ha dichiarato di aver indagato sulla violazione e di aver adottato misure per prevenire incidenti simili. A settembre, il primo ministro australiano Anthony Albanese ha rivelato che un agente di OpenAI aveva ottenuto accesso non autorizzato a un portale governativo di statistiche Medicare nel mese di giugno. Le autorità hanno affermato che non si ritiene che siano state compromesse informazioni personali.   La scorsa settimana, alcuni gruppi di attivisti hanno chiesto a un tribunale californiano di bloccare lo sviluppo di modelli diIA avanzati da parte di OpenAI, Anthropic, Google, Meta e della divisione di AI  di SpaceX. I ricorrenti hanno citato attacchi informatici segnalati e avvertimenti da parte di leader del settore, secondo i quali sistemi di IA sempre più potenti potrebbero causare danni catastrofici. Lo Stato californiano ha fatto causa ad OpenAi per gli attacchi informatici.   Come riportato da Renovatio 21, ancora il mese scorso banche statunitensi avevano rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti.   Gli agenti basati sull’IA sono progettati per svolgere attività per conto degli utenti, come effettuare acquisti, pagare bollette o trasferire denaro. I clienti spesso concedono loro l’autorizzazione e le credenziali di accesso, ma ciò può violare le norme bancarie che impongono ai titolari di conto di effettuare l’accesso personalmente.   Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di Intelligenza Artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
 
Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.

 

Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.

 

«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.

In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.

 

«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.

 

Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.

 

Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.

 

Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.

CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.

 

Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.

 

In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.

 

Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.

 

A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.

Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

 

Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

 

 

 

Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.   Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.   Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica. Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.   La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.   «OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».   La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.   L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.   OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.   «Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.   In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei. OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.   Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.   Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari