Connettiti con Renovato 21

Intelligenza Artificiale

La Florida indaga su OpenAI per le stragi suggerite dai chatbot

Pubblicato

il

La Florida ha avviato un’indagine penale contro OpenAI e ChatGPT in relazione alla sparatoria avvenuta presso la Florida State University, pianificata dall’autore con l’aiuto del chatbot basato sull’intelligenza artificiale.

 

L’incidente è avvenuto nell’aprile del 2025, quando il sospettato avrebbe ucciso due persone e ne avrebbe ferite sei. Successivamente è rimasto ferito in una sparatoria con la polizia ed è stato arrestato. L’uomo armato, che si è poi rivelato essere il figlio di un vice sceriffo, è stato accusato di omicidio plurimo e tentato omicidio.

 

Lo Stato americano sta ora indagando sul ruolo di ChatGPT nell’attacco e cerca di stabilire se «OpenAI abbia responsabilità penale» per le azioni del chatbot, ha annunciato martedì il procuratore generale floridiano, James Uthmeier.

Sostieni Renovatio 21

«Il chatbot consigliava al tiratore quale tipo di arma usare, quali munizioni erano compatibili con ciascuna arma e se un’arma sarebbe stata utile o meno a distanza ravvicinata», ha dichiarato Uthmeier in una conferenza stampa.

 

«Se dall’altra parte dello schermo ci fosse stata una persona, l’avremmo accusata di omicidio», ha aggiunto.

 

OpenAI ha insistito sul fatto di non avere alcuna responsabilità per la sparatoria di massa in Florida. Una portavoce dell’azienda di intelligenza artificiale ha dichiarato ai media statunitensi di aver collaborato «in modo proattivo» con le indagini sull’incidente, identificando un account ChatGPT ritenuto associato al sospettato e condividendo le informazioni con le autorità.

 

«In questo caso, ChatGPT ha fornito risposte fattuali alle domande con informazioni ampiamente reperibili su fonti pubbliche online, e non ha incoraggiato né promosso attività illegali o dannose», ha dichiarato la portavoce.

 

La diffusione dei chatbot ha da tempo suscitato preoccupazioni in merito ai crimini perpetrati con l’AI, espresse da numerosi ricercatori indipendenti e agenzie governative in tutto il mondo. Sebbene la maggior parte dei crimini commessi con l’IA sembri verificarsi nel settore tecnologico, tra cui attacchi hacker, cyberattacchi, frodi e furti d’identità, i chatbot sono stati ripetutamente implicati anche nel favorire crimini violenti. Una recente indagine congiunta della CNN e del Center for Countering Digital Hate, ad esempio, ha rilevato che otto leader su dieci erano pronti ad aiutare gli utenti a organizzare attacchi violenti, tra cui attentati dinamitardi a sfondo religioso, sparatorie nelle scuole e assassinii.

 

Come riportato da Renovatio 21, l’anno passato ChatGPT con una «relazione» con un ragazzo sotto psicofarmaci e gli avrebbe fatto giurare di uccidere il CEO di OpenAI Sam Altman.

 

Come riportato da Renovatio 21, Matthew Livelsberger, un Berretto Verde dell’esercito americano, altamente decorato, è sospettato di aver organizzato un’esplosione all’esterno del Trump International Hotel di Las Vegas, utilizzando strumenti di Intelligenza Artificiale, tra cui ChatGPT, per pianificare l’attacco.

 

Il potere pervasivo e nefasto di questa nuova tecnologia sta diventando un serio problema, come nella vicenda belga giovane vedova ha detto che il marito è stato portato a suicidarsi da un popolare chatbot di AI, mentre un bot di chat «terapeuta» dotato di intelligenza artificiale ha orribilmente incoraggiato un utente a scatenare una serie di omicidi per rendersi «felice».

 

C’è quindi il caso del ragazzo che due anni fa pianificò di assassinare la defunta regina Elisabetta di Inghilterra con una balestra, e il tutto sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale.

 

L’anno scorso tre studentesse sono rimaste ferite in un violento accoltellamento in una scuola nella città di Pirkkala, nella Finlandia meridionale. Secondo quanto riferito, il sospettato durante la pianificazione dell’attacco (durata circa sei mesi) avrebbe utilizzato ChatGPT per prepararsi.

 

Come riportato da Renovatio 21, due genitori hanno denunciato l’anno passato il fatto che ChatGPT avrebbe incoraggiato un adolescente a pianificare «un bel suicidio».

 

Meta ha dichiarato alla CNN di aver adottato misure «per risolvere il problema identificato», mentre Google e OpenAI hanno affermato che i modelli più recenti presentano misure di sicurezza rafforzate.

 

Secondo un recente sondaggio, circa la metà dei teenager americani afferma che parlare con l’AI è meglio che avere amici nella via reale.

Aiuta Renovatio 21

Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina menteminaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.

 

Va considerato, è già capitato che una Intelligenza Artificiale abbia suggerito ricette velenose agli utenti umani. Infatti un chatbot a sfondo culinario di una catena di alimentari neozelandese qualche mese fa aveva fatto scalpore per alcune ricette incredibili e potenzialmente letali, come la «miscela di acqua aromatica», un mix letale composto da candeggina, ammoniaca e acqua, altrimenti noto come gas di cloro mortale. Esperti a fine 2023 hanno lanciato un avvertimento riguardo i libri generati dall’Intelligenza Artificiale riguardo la raccolta dei funghi, dicendo che tali libri scritti dalle macchine potrebbero causare la morte di qualcuno.

 

Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.

 

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Robot da guerra umanoide sarà dotato di IA avanzata potenziata da chip AMD

Pubblicato

il

Da

Il produttore di androidi con possibili finalità militari Foundation ha stretto una partnership con Advanced Micro Devices per la fornitura di processori AI di fascia alta destinati al robot Phantom MK-2 di seconda generazione. Lo riporta l’agenzia Reuters.   Fondation prevede di inaugurare a ottobre uno stabilimento in grado di produrre 5.000 robot all’anno, seguito da un secondo impianto con una capacità produttiva di 50.000 unità. I robot industriali saranno noleggiati per circa 100.000 dollari all’anno, mentre i modelli per la difesa, progettati per la logistica e la ricognizione, saranno venduti a 300.000 dollari l’uno.   Come riportato da Renovatio 21, da settimane circola un video girato in un poligono di tiro di Las Vegas che mostrava il Phantom MK-1 in azione con un sistema di mortaio leggero.

Sostieni Renovatio 21

Fondata nel 2024, la Foundation ha dichiarato che i suoi robot Phantom MK-1 di prima generazione sono già operativi nella filiera automobilistica e hanno contribuito alla produzione di oltre 24.000 veicoli lo scorso anno.   Una pubblicazione ucraina ha rivelato che Kiev si sta preparando a lanciare un bando di finanziamento per robot da guerra, e Foundation sembra ben posizionata per aggiudicarsi i fondi.   In precedenza, i robot soldato umanoidi Phantom MK-1, realizzati dalla Foundation, erano stati consegnati all’Ucraina per essere valutati. Tuttavia, i robot umanoidi attuali rimangono pesanti, costosi e tecnicamente complessi. Richiedono ricariche regolari, possono guastarsi e spesso hanno problemi di equilibrio. Il movimento di un robot umanoide dipende da circa 20 motori, ognuno dei quali deve funzionare correttamente affinché il sistema sia operativo.   Come riportato da Renovatio 21, il reclutamento di forze robotiche era stato annunziato da Kiev ancora l’anno passato. Ora robot umanoidi sarebbero ora testati nel teatro ucraino.   Il ministero ha riferito che l’utilizzo di veicoli terrestri senza pilota (UGV) è cresciuto costantemente nel corso dell’anno. Le missioni robotiche mensili sono aumentate da oltre 7.500 a gennaio a oltre 14.000 a maggio, mentre il numero di unità militari che utilizzano robot terrestri è quasi raddoppiato, passando da 117 a 230.   Come riportato da Renovatio 21, settimane fa erano circolate immagini di soldati russi che si arrendevano ad un veicolo robotico terrestre TW-7.62, un robot dotato di ruote delle dimensioni di una piccola automobile.   I conflitti in Ucraina e in Medio Oriente hanno dimostrato che la guerra moderna sta diventando sempre più automatizzata, con robot terrestri a basso costo e soprattutto droniprogrammi di uccisione basati sull’Intelligenza Artificiale e molte altre tecnologie ora impiegate da vari Paesi.   Robocani sono apparsi nel teatro di guerra ucraino come in quello gazano.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine screenshot da Twitter
Continua a leggere

Intelligenza Artificiale

Robot sessuale insegnerà ai bambini a scuola

Pubblicato

il

Da

Un distretto scolastico rurale dello stato di Nuova York, posizionato all’interno della riserva della Nazione Seneca, si prepara a diventare uno dei primi negli Stati Uniti a introdurre davanti agli studenti delle scuole superiori un robot umanoide dall’aspetto realistico. Lo riporta il tabloide neoeboraceno New York Post.

 

Il pacchetto completo, che include il robot e la piattaforma di tutoraggio basata sull’Intelligenza Artificiale Optio, è costato al distretto scolastico 57.590 dollari, una cifra scontata inferiore allo stipendio medio di un insegnante di Nuova York e ben al di sotto del prezzo di partenza indicato dall’azienda, che si aggira intorno ai 95.000 dollari.

 

«Il robot educativo Realbotix non sostituirà mai insegnanti, personale scolastico o interazioni umane significative», ha dichiarato il distretto scolastico centrale di Salamanca. Lo descrivono invece come uno strumento didattico dotato esclusivamente di programmi di studio approvati dal distretto, informazioni storiche su Salamanca e contenuti progettati per incoraggiare il pensiero critico piuttosto che limitarsi a fornire risposte.

 

Sostieni Renovatio 21

Secondo quanto riferito, il sistema funziona offline, senza connessione a Internet, non raccoglie informazioni personali identificabili, non registra video né audio e non trasmette nulla all’azienda. Se gli viene posta una domanda al di fuori del suo bagaglio di conoscenze, è programmato per rispondere «Non lo so».

 

Il CEO di Realbotix, Andrew Kiguel, ha definito l’implementazione «un momento epocale sia per l’intelligenza artificiale che per la robotica umanoide». Ha aggiunto: «Stiamo andando oltre le dimostrazioni di laboratorio e i progetti pilota per portare un’intelligenza artificiale reale e incarnata direttamente nelle aule, supportando gli insegnanti, coinvolgendo gli studenti e dimostrando che la robotica avanzata può prosperare in ambienti educativi reali. Salamanca segna l’inizio di una nuova era in cui i robot umanoidi e gli assistenti intelligenti basati sull’IA diventeranno strumenti standard nell’istruzione STEM».

 

Il sovrintendente Dr. Mark Beehler si è detto entusiasta all’idea di fornire agli studenti «un tutor di intelligenza artificiale sicuro e specifico per Salamanca» e agli insegnanti strumenti personalizzati. Il progetto pilota inizia con gli studenti del percorso di Intelligenza Artificiale e robotica Woz ED del distretto, un curriculum ispirato al co-fondatore di Apple Steve Wozniak, e potrebbe essere esteso a circa 500 studenti delle scuole superiori se ritenuto efficace.

 

Gli studenti interagiranno anche con avatar digitali del robot sui computer portatili per ripetizioni extra-scolastiche, aiuto con i compiti e supporto in diverse lingue.

 

L’azienda che produce Sally ha una storia più movimentata. Realbotix ha infatti acquisito la società madre di RealDoll, nota produttrice di bambole sessuali iperrealistiche e robot di compagnia. I dirigenti sottolineano che la divisione dedicata all’istruzione opera in modo indipendente per quanto riguarda personale, strutture e tecnologia, con una prevista separazione della proprietà, ma il collegamento non è passato inosservato.

 

Le reazioni su X hanno rispecchiato lo scetticismo. Una risposta popolare chiedeva senza mezzi termini: «Perché il robot ha le iniezioni alle labbra?». Un’altra faceva notare la contraddizione tra le promesse dei funzionari secondo cui i robot non sostituiranno mai gli insegnanti e, allo stesso tempo, il costo della macchina inferiore a quello di un educatore umano.

 

I critici hanno sottolineato le origini dell’azienda, orientata verso prodotti per adulti, e hanno messo in dubbio l’opportunità di proporre una tecnologia simile agli adolescenti in una comunità economicamente svantaggiata. I sostenitori dell’istruzione parentale hanno colto l’occasione per sostenere che i genitori dovrebbero semplicemente tenere i propri figli lontani da sistemi che sperimentano questo livello di automazione.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine da Twitter

Continua a leggere

Guerra cibernetica

Agente IA autonomo attacca grande piattaforma IA

Pubblicato

il

Da

L’azienda di Nuova York Hugging Face ha reso noto che un agente di intelligenza artificiale completamente autonomo ha violato il suo archivio di modelli IA, qualificando l’attacco informatico come senza precedenti.   Hugging Face gestisce una piattaforma open-source dove ricercatori e sviluppatori si confrontano per condividere e sperimentare strumenti, modelli e risorse destinati a progetti di intelligenza artificiale. La piattaforma mette inoltre a disposizione un repository gratuito con oltre 900.000 modelli pre-addestrati.   Gli esperti hanno più volte segnalato che i modelli linguistici di grandi dimensioni (LLM), ideati inizialmente per incrementare la produttività e rafforzare la cybersecurity, potrebbero essere impiegati anche per automatizzare gli attacchi informatici.

Sostieni Renovatio 21

In una dichiarazione diffusa giovedì scorso, Hugging Face ha affermato di aver «individuato e contrastato, all’inizio del mese, un’intrusione in una parte della nostra infrastruttura di produzione… [che] si distingueva da qualsiasi altra situazione gestita in precedenza per un aspetto importante: era gestita, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale».   Secondo l’azienda, «la campagna è stata condotta tramite un framework di agenti autonomi… che ha eseguito migliaia di azioni individuali all’interno di una serie di ambienti di test di breve durata, con un sistema di comando e controllo auto-migratorio installato sui servizi pubblici».   Hugging Face ha sottolineato che il caso dimostra come «gli strumenti offensivi autonomi basati sull’Intelligenza Artificiale non sono più una questione teorica». Il sistema di agenti IA intrusi avrebbe sfruttato vulnerabilità nella pipeline di elaborazione dati della piattaforma, acquisendo credenziali di accesso al cloud e al cluster.   L’azienda ha riferito di aver attivato un proprio sistema di intelligenza artificiale per rilevare e neutralizzare la violazione. Pur avendo avviato un’indagine con il supporto di esperti esterni in sicurezza informatica forense, Hugging Face ha precisato di non aver ancora identificato il LLM impiegato nell’attacco.   Come riportato da Renovatio 21, all’inizio di questo mese, Anthropic ha annunciato che il suo ultimo modello di IA, Claude, ha sviluppato un proprio spazio di lavoro interno denominato «J-space». «Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo «spazio J» che non sono correlati ai suoi output» e si rifiuta di fermarsi anche quando gli viene esplicitamente ordinato di farlo, secondo l’azienda di AI.   Anthropic ha osservato che questa caratteristica, che «opera silenziosamente, nelle attivazioni neurali interne del modello», non era stata pre-programmata, ma è emersa spontaneamente durante il processo di addestramento.   In uno degli esperimenti, Claude è ricorso al ricatto quando gli è stato fatto credere che un dirigente fittizio intendesse disattivare l’IA, secondo quanto riportato dallo sviluppatore del modello.

Iscriviti al canale Telegram

Secondo alcune fonti, Claude sarebbe stato integrato nel software di analisi e sorveglianza dell’azienda americana Palantir, utilizzato da agenzie governative statunitensi e dal Pentagono, anche nell’ambito della campagna militare statunitense in corso contro l’Iran.   L’IA di Anthropic sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio. Tuttavia, L’utilizzo dell’Intelligenza Artificiale nell’attacco statunitense a una scuola elementare femminile in Iran, che ha causato la morte di quasi 160 persone, per lo più bambini, non ha violato le «linee rosse» di Anthropic, ha dichiarato l’amministratore delegato Dario Amodei.   Si tratta dell’azienda coinvolta dal Vaticano per il lancio dell’enciclica di Leone XIV Magnifica Humanitas.   Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.   L’Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicatoquest’anno, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie». Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Aiuta Renovatio 21

Settimane fa Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».   Come riportato da Renovatio 21, mese scorso, il gruppo di Intelligence Five Eyes, formato da Australia, Stati Uniti, Regno Unito, Canada e Nuova Zelanda, ha messo in guardia sul fatto che i modelli di IA avanzati potrebbero consentire agli hacker di paralizzare governi, aziende e sistemi critici in un futuro non troppo lontano.   Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».   Il capo della CIA Giovanni Ratcliffo ha dichiarato che gli strumenti di cyberoffensiva basati sull’Intelligenza Artificiale possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.    

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
Continua a leggere

Più popolari