Connettiti con Renovato 21

Intelligenza Artificiale

Ecco lo spaventoso robot umanoide alimentato dall’IA di OpenAI

Pubblicato

il

Dopo l’annuncio della partnership con OpenAI, la startup tecnologica Figure lo scorso marzo ha pubblicato una nuova clip del suo robot umanoide, denominato Figure 01, che chiacchiera con un ingegnere mentre ripone i piatti.

 

«Vedo una mela rossa su un piatto al centro del tavolo, uno stendino con delle tazze e un piatto, e tu in piedi lì vicino con la mano sul tavolo», dice l’androide con una voce metallica, sfoggiando capacità di «ragionamento vocale» di OpenAI.

 

«Posso avere qualcosa da mangiare?» chiede il tester umano lì accanto.

 

«Certo», risponde l’automa porgendogli una mela rossa con estrema disinvoltura.

 

«Ti ho dato la mela perché è l’unico alimento commestibile che potevo offrirti dal tavolo», replica il robot quando gli è chiesto perché gli avesse dato la mela, inserendo un «uh» inquietantemente umano a metà frase.

Aiuta Renovatio 21

Sebbene l’azienda non abbia ancora annunciato un prodotto di consumo valido, questa dimostrazione dipinge una visione quasi distopica del prossimo futuro. È davvero questo l’aspetto che potrebbe avere un giorno l’interazione con un robot dotato di intelligenza artificiale che pulisce la tua casa o lava le tue stoviglie?

 

Nel febbraio scorso, Figure aveva annunciato di aver firmato un accordo con il produttore di ChatGPT, nella speranza di dare ai suoi futuri robotti la capacità di comprendere il linguaggio utilizzando l’intelligenza artificiale e di apprendere nuove competenze a un ritmo accelerato.

 

In altri video si è osservato Figure 01 utilizzare una macchina per il caffè, camminare, raccogliere oggetti e posizionarli su un nastro trasportatore.

 

Con l’ulteriore aiuto di OpenAI, Figure intende sviluppare «modelli di Intelligenza Artificiale di prossima generazione per robot umanoidi», consentendo loro di «elaborare e ragionare a partire dal linguaggio».

 

Anche il produttore di veicoli elettrici Tesla prevede di introdurre robot umanoidi per scopi interni a partire dal prossimo anno, con l’intenzione di estenderne la produzione entro il 2026.

 

Pure in Cina vengono progettati e sviluppati questi prototipi meccanizzati dalle sembianze umane, tanto che il gigante della tecnologia cinese Xiaomi, ha svelato un robot umanoide dall’aspetto futuristico chiamato CyberOne. L’androide del colosso tecnologico sinico assomiglia decisamente ai rendering del robot proposto in fase di progetto proprio da Tesla.

 

Come riportato da Renovatio 21, l’azienda statunitense NVIDIA, divenuta ora una delle più capitalizzate del pianeta, ha annunciato un nuovo progetto di Intelligenza Artificiale volto a creare «robot umanoidi» in grado di apprendere nuove competenze e risolvere compiti complessi studiando il comportamento umano.

 

La corsa alla produzione di robot umanoidi è di fatto partita. Come si possa pensare che essi non finiranno a sostituire la popolazione umana ancora non ci è chiaro.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine screenshot da YouTube

Continua a leggere

Intelligenza Artificiale

L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI

Pubblicato

il

Da

Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.   Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.   «Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA. In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.   «Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.   Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.   Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.   Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi. CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.   Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.   In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.   Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.   A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI. Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.   Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
         
Continua a leggere

Guerra cibernetica

La California fa causa a OpenAI per gli attacchi informatici

Pubblicato

il

Da

La California ha intentato causa contro OpenAI per un attacco informatico avvenuto a luglio, in cui agenti  IA non autorizzati hanno violato Hugging Face, un importante archivio di modelli e set di dati di Intelligenza Artificiale.

 

Gli agenti IA  sono sistemi autonomi in grado di svolgere compiti complessi, prendere decisioni e interagire con ambienti digitali con una supervisione umana minima o nulla.

 

Il procuratore generale dello Stato, Rob Bonta, ha annunciato la causa lunedì, accusando lo sviluppatore di ChatGPT di aver testato consapevolmente sistemi di IA  avanzati senza adeguate misure di sicurezza, mettendo a rischio la salute pubblica.

Bonta ha descritto la violazione come «del tutto prevedibile», sostenendo che OpenAI sapeva che il suo ambiente di test era «difettoso e vulnerabile», ma non è intervenuta per risolvere le vulnerabilità.

 

La causa accusa la società con sede a San Francisco di aver violato la legge californiana sulla concorrenza sleale e di aver creato un pericolo pubblico dando priorità allo sviluppo rapido dell’AI rispetto alla sicurezza pubblica.

 

«OpenAI privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità», ha affermato Bonta, avvertendo che decine di incidenti simili «potrebbero essere solo la punta dell’iceberg».

 

La denuncia chiede un’ingiunzione contro le pratiche commerciali illecite, un risarcimento per le persone colpite e sanzioni civili. Avverte inoltre che i californiani potrebbero trovarsi ad affrontare minacce alla loro privacy, sicurezza e proprietà pubblica.

 

L’ufficio di Bonta ha inoltre accusato OpenAI di aver ostacolato un’indagine avviata a settembre, sostenendo che la società ha fornito ben poco oltre alle informazioni già disponibili al pubblico, ai post sui blog e ai documenti pesantemente censurati.

 

OpenAI ha respinto le critiche, affermando di aver intrapreso «un ampio e trasparente sforzo» per indagare sull’incidente di luglio e prevenire guasti simili.

 

«Questa causa sembra mirare specificamente contro OpenAI per una problematica riscontrata da tutti i principali laboratori di Intelligenza Artificiale», ha dichiarato il portavoce Drew Pusateri.

 

In precedenza, Hugging Face aveva descritto l’intrusione come senza precedenti, affermando che agenti AI autonomi avevano eseguito migliaia di azioni in molteplici ambienti di elaborazione temporanei.

OpenAI deve affrontare cause legali anche in altri nove Stati degli Stati Uniti, tra cui Florida, Arkansas, Arizona, Kansas, Idaho, Iowa, Montana, Nebraska e West Virginia. Le autorità starebbero esaminando attentamente le sue pratiche di coinvolgimento degli utenti, la gestione dei dati dei consumatori e sanitari e le interazioni dell’Intelligenza Artificiale con bambini e anziani.

 

Altri importanti sviluppatori di IA, tra cui Anthropic e Meta, hanno segnalato incidenti simili, sollevando preoccupazioni più ampie sulla sicurezza di sistemi sempre più autonomi.

 

Come riportato da Renovatio 21, il CEO di OpenAI Sam Altman il mese scorso aveva dichiarato laconicamente che il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA. Negli stessi giorni era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.

 

L’Altmanno è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».

 

Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Cina

Caduta del CEO di Nvidia, dito puntato su Marco Rubio

Pubblicato

il

Da

Un’inchiesta del Washington Post del 13 novembre ha rivelato che la rimozione di Jensen Huang, CEO di Nvidia, sarebbe stata orchestrata dal Segretario di Stato e Consigliere per la Sicurezza Nazionale degli Stati Uniti Marco Rubio   «La caduta di Huang, che potrebbe segnare un drammatico cambiamento di potere, è stata in definitiva innescata da uno dei più influenti falchi anti-cinesi della capitale, il Consigliere per la Sicurezza Nazionale e Segretario di Stato Marco Rubio», scrive il pezzo del WaPo.   Il meccanismo, secondo questa ricostruzione, consisteva nella riscrittura personale da parte di Rubio di un memorandum della CIA indirizzato al Presidente. Rubio avrebbe riscritto il memorandum «in termini più assertivi» e lo avrebbe poi presentato al Presidente Trump insieme all’originale della CIA, secondo quanto affermato da una presunta fonte confidenziale dell’amministrazione citata dal WaPo. Le conclusioni della versione del memorandum di Rubio, che enfatizzavano i legami tra Huang e lo spionaggio cinese, sono state divulgate ad alcune testate giornalistiche da una o più persone ignote, a partire dal New York Times il 9 novembre. Jensen Huang aveva avuto accesso personale al presidente Trump grazie all’importanza della sua azienda e aveva influenzato Trump affinché consentisse la prosecuzione degli scambi commerciali di semiconduttori con la Cina.   È stata diffusa una petizione firmata da decine di migliaia di dirigenti aziendali, tra cui Elon Musk, che chiedevano che a Huang fosse data la possibilità di riottenere la posizione di CEO di Nvidia   In un altro aspetto della controversia, Jensen Huang sosteneva l’utilizzo di modelli linguistici di grandi dimensioni (LLM) «open source», che potevano essere utilizzati da diverse aziende di Intelligenza Artificiale per testare i propri modelli; si opponeva – come apparentemente anche Trump – all’idea di sottoporre questi modelli di intelligenza artificiale a «protezioni di sicurezza» aziendali o governative e di regolamentarne rigidamente le funzionalità.   Molti modelli LLM cinesi sono «open source» e, quando dimostrano di avere la stessa potenza dei modelli occidentali a costi inferiori, i falchi anti-cinesi sostengono che la Cina lo faccia «rubando» i modelli statunitensi. Il gabinetto di Trump è ora profondamente diviso su queste questioni, con i ministri che si attaccano apertamente a vicenda, mettendo il presidente americano in una posizione più debole, soprattutto per quanto riguarda le discussioni sull’IA all’incontro trilaterale con Xi e Putin a Shenzhen tra due giorni.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di Anders Eidesvik, CC BY 4.0, via Wikimedia
 
Continua a leggere

Più popolari