Connettiti con Renovato 21

Intelligenza Artificiale

Mattel annuncia i piani per incorporare chatGPT nei giocattoli per bambini

Pubblicato

il

Mattel, il produttore di bambole Barbie, auto Hot Wheels e degli un tempo popolarissimi Masters of the Universe, ha firmato un accordo con OpenAI per utilizzare i suoi strumenti di intelligenza artificiale non solo per progettare i giocattoli, ma anche per alimentarli, riferisce Bloomberg.

 

In un’intervista congiunta, il Chief-Stry Officer di Mattel Josh Silverman e il Chief Operating Officer di OpenAI, Brad Lightcap, hanno detto che la collaborazione è in una fase iniziale e hanno rifiutato di commentare quale sarebbe stato il primo prodotto.

 

L’Intelligenza Artificiale potrebbe essere utilizzata per creare assistenti digitali basati su personaggi della Mattel, per esempio. 

 

«Abbiamo in programma di annunciare qualcosa verso la fine di quest’anno, ed è davvero attraverso lo spettro di prodotti fisici e alcune esperienze. L’utilizzo di questa incredibile tecnologia ci permetterà di reimmaginare davvero il futuro dei giocattoli», ha detto il Silverman. 

Sostieni Renovatio 21

Detta così pare essere una collaborazione piuttosto allarmante. Le prove dei deleteri effetti dei chatbot AI sulla nostra salute mentale sono aumentate costantemente, con utenti ossessionati da ChatGPT con conseguenze tragiche. 

 

È particolarmente rischioso per i bambini. All’inizio di quest’anno, i ricercatori del Brainstorm Lab for Mental Health Innovation della Stanford School of Medicine hanno pubblicato un avviso di valutazione del rischio di Intelligenza Artificiale sugli adolescenti che interagiscono con i compagni virtuali di intelligenza artificiale, un tipo di chatbot AI progettato per essere come un umano. 

 

È impossibile ignorare il rischio che corre una giovane mente che sviluppa un attaccamento a qualcosa che finge di essere reale e un vero amico. 

 

Può essere progettata per essere sicura per i bambini, ma non c’è alcuna garanzia che non disobbedirà alle sue istruzioni. 

 

Come già spiegato su Renovatio 21, ChatGPT utilizza il «machine learning» – la ricerca di modelli statistici in enormi set di dati – per generare risposte umane nel linguaggio di tutti i giorni a qualsiasi domanda. Fondamentalmente funziona prevedendo quale dovrebbe essere la parola successiva in una frase basata su esempi precedenti trovati nelle enormi quantità di dati che sono stati inseriti.

 

L’utilizzo di ChatGPT è stato descritto come «avere una conversazione testuale con un amico», e si prevede che trasformerà il panorama degli «amici virtuali» aggiungendo «amici» letteralmente inesistenti. In altre parole, sistemi di Intelligenza Artificiale potrebbero alla fine sostituire molte delle conversazioni da uomo a uomo che abbiamo quotidianamente, nel bene e nel male.

 

Detto questo, non conosciamo i dettagli esatti di come Mattel utilizzerà i prodotti di OpenAI. Ma finora, sembra che stia andando in una direzione alquanto prevedibile. Mattel potrebbe usare l’intelligenza artificiale per fare una bambola Barbie con conversazioni in piena regola con tuo figlio. 

 

Per quanto riguarda la natura dell’accordo, il Silverman di Mattel ha affermato che il produttore di giocattoli non sta concedendo in licenza la sua proprietà intellettuale a OpenAI e manterrà il pieno controllo sui prodotti che verranno creati. In ogni caso, le due aziende prevedono un rapporto proficuo. Mattel ha ampliato il suo impero nel regno dell’intrattenimento – come annunciato dal suo blockbuster 2023 Barbie – mentre OpenAI sta cercando di ottenere accordi con gli studi di Hollywood per utilizzare il suo generatore di video IA Sora.

 

«La fase di esplorazione dell’idea del design creativo per aziende come Mattel e molti altri, è una parte fondamentale del flusso di lavoro», ha detto Lightcap. «Mentre pensiamo a come l’intelligenza artificiale costruisce strumenti che estendono tale capacità, penso che siamo molto fortunati ad avere partner come Mattel con cui possiamo lavorare per capire meglio questo problema».

 

Rimangono importanti punti interrogativi, ma soprattutto questo è un altro esempio di come ogni settore si stia avvalendo dell’IA nel suo modello di business, indipendentemente da quanto senso abbia o dai rischi posti da questa tecnologia.

 

Prendiamo ad esempio un reportage del Wall Street Journal, che ha rivelato che i chatbot di Intelligenza Artificiale di Meta su Instagram, Facebook e WhatsApp sono in grado di intrattenere con gli utenti «giochi di ruolo romantici» che possono diventare sessualmente espliciti, anche con account appartenenti a minori.

 

Come riportato da Renovatio 21, una nuova ricerca ha trovato un collegamento preoccupante alla perdita di memoria negli studenti che si affidavano a ChatGPT, mentre un recente studio avverte che l’uso di strumenti di Intelligenza Artificiale possono ridurre nel tempo le capacità mentali di un individuo.

 

Ad ogni modo, esiste già un film che parla dei problemi che potrebbero palesarsi inserando l’AI nei giocattoli. Si tratta di Small Soldiers (1998) del geniale Joe Dante, dove un gruppo militare acquista una ditta di giocattoli e vi inserisce, per sbadataggine del management, l’IA creata per propositi militari: il risultato sono soldatini sciovinisti, razzisti e violentissimi.

 

Aiuta Renovatio 21

Mentre Small Soldiers è di fatto una commedia, anche l’horror sta investigando la possibilità di giocattoli AI. È il caso della serie della bambola assassina «Chucky», classico recente del film dell’orrore con un bambolotto posseduto che uccide la gente. Nel reboot della storia del 2019 (chiamato pure Child’s Play) non è un demone a possedere la bambola, ma l’uso da parte del giocattolo dell’AI, che lo rende una crudele e satanica macchina di morte.

 

Diciamo pure che Hollywood a parte, un giocatolo IA ai nostri figli è meglio se non lo daremo mai.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Robot sessuale insegnerà ai bambini a scuola

Pubblicato

il

Da

Un distretto scolastico rurale dello stato di Nuova York, posizionato all’interno della riserva della Nazione Seneca, si prepara a diventare uno dei primi negli Stati Uniti a introdurre davanti agli studenti delle scuole superiori un robot umanoide dall’aspetto realistico. Lo riporta il tabloide neoeboraceno New York Post.   Il pacchetto completo, che include il robot e la piattaforma di tutoraggio basata sull’Intelligenza Artificiale Optio, è costato al distretto scolastico 57.590 dollari, una cifra scontata inferiore allo stipendio medio di un insegnante di Nuova York e ben al di sotto del prezzo di partenza indicato dall’azienda, che si aggira intorno ai 95.000 dollari.   «Il robot educativo Realbotix non sostituirà mai insegnanti, personale scolastico o interazioni umane significative», ha dichiarato il distretto scolastico centrale di Salamanca. Lo descrivono invece come uno strumento didattico dotato esclusivamente di programmi di studio approvati dal distretto, informazioni storiche su Salamanca e contenuti progettati per incoraggiare il pensiero critico piuttosto che limitarsi a fornire risposte.  

Sostieni Renovatio 21

Secondo quanto riferito, il sistema funziona offline, senza connessione a Internet, non raccoglie informazioni personali identificabili, non registra video né audio e non trasmette nulla all’azienda. Se gli viene posta una domanda al di fuori del suo bagaglio di conoscenze, è programmato per rispondere «Non lo so».   Il CEO di Realbotix, Andrew Kiguel, ha definito l’implementazione «un momento epocale sia per l’intelligenza artificiale che per la robotica umanoide». Ha aggiunto: «Stiamo andando oltre le dimostrazioni di laboratorio e i progetti pilota per portare un’intelligenza artificiale reale e incarnata direttamente nelle aule, supportando gli insegnanti, coinvolgendo gli studenti e dimostrando che la robotica avanzata può prosperare in ambienti educativi reali. Salamanca segna l’inizio di una nuova era in cui i robot umanoidi e gli assistenti intelligenti basati sull’IA diventeranno strumenti standard nell’istruzione STEM».   Il sovrintendente Dr. Mark Beehler si è detto entusiasta all’idea di fornire agli studenti «un tutor di intelligenza artificiale sicuro e specifico per Salamanca» e agli insegnanti strumenti personalizzati. Il progetto pilota inizia con gli studenti del percorso di Intelligenza Artificiale e robotica Woz ED del distretto, un curriculum ispirato al co-fondatore di Apple Steve Wozniak, e potrebbe essere esteso a circa 500 studenti delle scuole superiori se ritenuto efficace.   Gli studenti interagiranno anche con avatar digitali del robot sui computer portatili per ripetizioni extra-scolastiche, aiuto con i compiti e supporto in diverse lingue.   L’azienda che produce Sally ha una storia più movimentata. Realbotix ha infatti acquisito la società madre di RealDoll, nota produttrice di bambole sessuali iperrealistiche e robot di compagnia. I dirigenti sottolineano che la divisione dedicata all’istruzione opera in modo indipendente per quanto riguarda personale, strutture e tecnologia, con una prevista separazione della proprietà, ma il collegamento non è passato inosservato.   Le reazioni su X hanno rispecchiato lo scetticismo. Una risposta popolare chiedeva senza mezzi termini: «Perché il robot ha le iniezioni alle labbra?». Un’altra faceva notare la contraddizione tra le promesse dei funzionari secondo cui i robot non sostituiranno mai gli insegnanti e, allo stesso tempo, il costo della macchina inferiore a quello di un educatore umano.   I critici hanno sottolineato le origini dell’azienda, orientata verso prodotti per adulti, e hanno messo in dubbio l’opportunità di proporre una tecnologia simile agli adolescenti in una comunità economicamente svantaggiata. I sostenitori dell’istruzione parentale hanno colto l’occasione per sostenere che i genitori dovrebbero semplicemente tenere i propri figli lontani da sistemi che sperimentano questo livello di automazione.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine da Twitter
Continua a leggere

Guerra cibernetica

Agente IA autonomo attacca grande piattaforma IA

Pubblicato

il

Da

L’azienda di Nuova York Hugging Face ha reso noto che un agente di intelligenza artificiale completamente autonomo ha violato il suo archivio di modelli IA, qualificando l’attacco informatico come senza precedenti.

 

Hugging Face gestisce una piattaforma open-source dove ricercatori e sviluppatori si confrontano per condividere e sperimentare strumenti, modelli e risorse destinati a progetti di intelligenza artificiale. La piattaforma mette inoltre a disposizione un repository gratuito con oltre 900.000 modelli pre-addestrati.

 

Gli esperti hanno più volte segnalato che i modelli linguistici di grandi dimensioni (LLM), ideati inizialmente per incrementare la produttività e rafforzare la cybersecurity, potrebbero essere impiegati anche per automatizzare gli attacchi informatici.

Sostieni Renovatio 21

In una dichiarazione diffusa giovedì scorso, Hugging Face ha affermato di aver «individuato e contrastato, all’inizio del mese, un’intrusione in una parte della nostra infrastruttura di produzione… [che] si distingueva da qualsiasi altra situazione gestita in precedenza per un aspetto importante: era gestita, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale».

 

Secondo l’azienda, «la campagna è stata condotta tramite un framework di agenti autonomi… che ha eseguito migliaia di azioni individuali all’interno di una serie di ambienti di test di breve durata, con un sistema di comando e controllo auto-migratorio installato sui servizi pubblici».

 

Hugging Face ha sottolineato che il caso dimostra come «gli strumenti offensivi autonomi basati sull’Intelligenza Artificiale non sono più una questione teorica». Il sistema di agenti IA intrusi avrebbe sfruttato vulnerabilità nella pipeline di elaborazione dati della piattaforma, acquisendo credenziali di accesso al cloud e al cluster.

 

L’azienda ha riferito di aver attivato un proprio sistema di intelligenza artificiale per rilevare e neutralizzare la violazione. Pur avendo avviato un’indagine con il supporto di esperti esterni in sicurezza informatica forense, Hugging Face ha precisato di non aver ancora identificato il LLM impiegato nell’attacco.

 

Come riportato da Renovatio 21, all’inizio di questo mese, Anthropic ha annunciato che il suo ultimo modello di IA, Claude, ha sviluppato un proprio spazio di lavoro interno denominato «J-space». «Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo «spazio J» che non sono correlati ai suoi output» e si rifiuta di fermarsi anche quando gli viene esplicitamente ordinato di farlo, secondo l’azienda di AI.

 

Anthropic ha osservato che questa caratteristica, che «opera silenziosamente, nelle attivazioni neurali interne del modello», non era stata pre-programmata, ma è emersa spontaneamente durante il processo di addestramento.

 

In uno degli esperimenti, Claude è ricorso al ricatto quando gli è stato fatto credere che un dirigente fittizio intendesse disattivare l’IA, secondo quanto riportato dallo sviluppatore del modello.

Iscriviti al canale Telegram

Secondo alcune fonti, Claude sarebbe stato integrato nel software di analisi e sorveglianza dell’azienda americana Palantir, utilizzato da agenzie governative statunitensi e dal Pentagono, anche nell’ambito della campagna militare statunitense in corso contro l’Iran.

 

L’IA di Anthropic sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio. Tuttavia, L’utilizzo dell’Intelligenza Artificiale nell’attacco statunitense a una scuola elementare femminile in Iran, che ha causato la morte di quasi 160 persone, per lo più bambini, non ha violato le «linee rosse» di Anthropic, ha dichiarato l’amministratore delegato Dario Amodei.

 

Si tratta dell’azienda coinvolta dal Vaticano per il lancio dell’enciclica di Leone XIV Magnifica Humanitas.

 

Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

L’Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicatoquest’anno, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie». Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Aiuta Renovatio 21

Settimane fa Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Come riportato da Renovatio 21, mese scorso, il gruppo di Intelligence Five Eyes, formato da Australia, Stati Uniti, Regno Unito, Canada e Nuova Zelanda, ha messo in guardia sul fatto che i modelli di IA avanzati potrebbero consentire agli hacker di paralizzare governi, aziende e sistemi critici in un futuro non troppo lontano.

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Il capo della CIA Giovanni Ratcliffo ha dichiarato che gli strumenti di cyberoffensiva basati sull’Intelligenza Artificiale possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Israele ha speso oltre 45 milioni di dollari in una campagna di propaganda basata sull’Intelligenza Artificiale e diretta contro gli Stati Uniti

Pubblicato

il

Da

Israele sta investendo decine di milioni di dollari in una campagna mediatica basata sull’intelligenza artificiale, con l’obiettivo di migliorare la propria immagine e influenzare l’opinione pubblica negli Stati Uniti. Lo riporta il Wall Street Journal.   La reputazione di Israele tra gli americani è peggiorata negli ultimi anni. Secondo il Pew Research Center, a marzo circa il 60% degli adulti statunitensi aveva un’opinione sfavorevole del Paese, rispetto al 53% dell’anno precedente e al 42% del 2022.   Secondo un’inchiesta pubblicata sabato dal Wall Street Journal, milioni di messaggi generati dall’intelligenza artificiale sono stati inviati agli americani negli ultimi mesi da mittenti che utilizzavano nomi come Emma, Sarah e John.

Sostieni Renovatio 21

I messaggi affermano di provenire da un gruppo chiamato «Amici per la Pace» e pongono ai destinatari domande come «Come pensate che i colloqui di pace tra Stati Uniti e Israele con l’Iran influenzeranno la sicurezza globale?». Il giornale ha dichiarato di non essere riuscito a trovare alcuna organizzazione no-profit o società registrata con tale nome.   Secondo quanto riferito, i messaggi di testo fanno parte di un contratto più ampio del valore di oltre 45 milioni di dollari, assegnato a un’operazione guidata da Brad Parscale, ex responsabile della campagna elettorale del presidente statunitense Donald Trump. Sparkfire, la società che gestisce la campagna di messaggi, aveva ricevuto 6,5 milioni di dollari entro la metà di maggio.   Il team di Parscale ha anche creato siti web e post online filo-israeliani progettati per generare risposte più favorevoli sullo Stato Ebraicoda piattaforme di Intelligenza artificiale come ChatGPT e Claude.   L’anno scorso, il ministro degli Esteri israeliano Gideon Sa’ar ha dichiarato che lo Stato degli ebrei aveva stanziato oltre 700 milioni di dollari nel bilancio 2026 per migliorare l’immagine di Israele nel mondo e «plasmare la coscienza collettiva».   Secondo il WSJ, almeno sei società sono state incaricate di svolgere il lavoro negli Stati Uniti, mentre circa una trentina di persone si sono registrate come agenti stranieri per conto di Israele.

Aiuta Renovatio 21

Secondo quanto riferito, la campagna statunitense include anche oltre 500.000 dollari in pubblicità tramite l’emittente conservatrice Salem Media, dove Parscale ricopre il ruolo di responsabile della strategia. Salem ha negato di aver pagato i propri conduttori per promuovere posizioni specifiche.   In un’intervista rilasciata mercoledì al podcaster Joe Rogan, il vicepresidente statunitense JD Vance ha accusato alcuni membri del governo israeliano di tentare di manipolare l’opinione pubblica americana per prolungare il conflitto con l’Iran «a tempo indeterminato».   Come riportato da Renovatio 21, a giugno era emerso che il governo israeliano aveva triplicato la spesa per le campagne di influenza negli Stati Uniti.   Le pratiche di influenza di Israele sull’ecosistema mediatico statunitense hanno subito una profonda evoluzione digitale, come confermato dalle dichiarazioni del premier Benjamin Netanyahu. Mesi fa, durante un incontro a Nuova York con diversi creatori di contenuti americani, il primo ministro israeliano aveva esplicitamente definito i social media come l’arma più importante nella guerra informativa contemporanea per blindare il consenso negli Stati Uniti.   Nello specifico, il Netanyahu ha descritto il passaggio di TikTok sotto il controllo di un consorzio statunitense guidato da figure e investitori vicini a Israele, Tra cui il fondatore di Oracle Larry Ellison, ebreo sionista, come l’acquisizione geopolitica più rilevante del momento, in grado di alterare la moderazione algoritmica e arginare i trend pro-palestinesi tra i giovani americani.   Ellison, tra i primi uomini più ricchi del pianeta e grande finanziatore delle forze israeliane, ha guidato un consorzio per rilevare il social media cinese, popolarissimo tra i giovani, negli USA tramite Oracle, con il probabile obiettivo, neanche tanto occultato, di controllare l’algoritmo di TikTok e limitare il dissenso pro-Palestina.   Tale scalata al colosso informatico straniero si unisce alle mosse della sua famiglia: il figlio David ha infatti acquisito Paramount Global (che controlla il canale televisivi CBS), espandendo l’influenza degli Ellison dall’intrattenimento televisivo ai flussi informativi dei social network americani. A capo della CBS Ellison ha messo la giovane giornalista lesbo-sionista Bari Weiss, da moltissimi considerata senza alcuna esperienza per tale lavoro, ma la cui fede nella causa dello Stato Giudaico è totale. Alla Weiss, che è relativamente giovane, ora sarebbe stata affidata pure il colosso CNN.

Sostieni Renovatio 21

Documenti depositati presso il dipartimento di Giustizia degli Stati Uniti ai sensi del Foreign Agents Registration Act (FARA) hanno svelato l’esistenza del progetto segreto denominato Progetto Esther. Attraverso questa operazione finanziata dal ministero degli Esteri israeliano e mediata da agenzie di pubbliche relazioni come Havas, lo Stato Ebraico ha stanziato ingenti budget per remunerare influencer americani con compensi fino a settemila dollari a post, con l’obiettivo di orientare la narrazione sul conflitto di Gaza.   Questa strategia aperta si affianca a campagne clandestine tracciate da società di sicurezza informatica, caratterizzate dall’uso di reti di profili falsi e bot basati sull’intelligenza artificiale per condizionare deputati ed elettori del Partito Democratico.   Il ministero degli Esteri israeliano ha inoltre finanziato una massiccia operazione di sorveglianza e tracciamento digitale nelle chiese degli Stati Uniti. Attraverso l’agenzia Show Faith by Works, registrata ai sensi del FARA, lo Stato degli ebrei ha stanziato oltre tre milioni di dollari per applicare un sistema di geofencing: si tratta di barriere virtuali basate sulla geolocalizzazione dei telefoni inserite intorno a centinaia di megachiese e campus protestanti ed evangelici in California, Arizona, Nevada e Colorado.   Il piano punta a contrastare il calo di consenso verso Israele riscontrato tra i giovani cristiani americani. Rilevando i dispositivi mobili dei fedeli riuniti per il culto domenicale, il sistema raccoglie i dati di tracciamento per inondarli di annunci digitali mirati, video e messaggi personalizzati sulla guerra a Gaza.   La campagna acquisisce l’identità dei presenti per continuare a bersagliarli con propagande pro-Israele e anti-palestinesi, trasformando i luoghi di culto in un bacino di raccolta dati geopolitici.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
Continua a leggere

Più popolari