Connettiti con Renovato 21

Intelligenza Artificiale

I chatbot di Zuckerberg potrebbero parlare di sesso con i tuoi figli minorenni

Pubblicato

il

Un reportage del Wall Street Journal ha rivelato che i chatbot di Intelligenza Artificiale di Meta su Instagram, Facebook e WhatsApp sono in grado di intrattenere con gli utenti «giochi di ruolo romantici» che possono diventare sessualmente espliciti, anche con account appartenenti a minori.

 

Il quotidiano economico neoeboraceno riporta che, nel tentativo di diffondere dispositivi di accompagnamento digitali basati sull’Intelligenza Artificiale sulle sue piattaforme social, Meta ha preso decisioni interne per allentare le restrizioni e consentire ai suoi chatbot di interagire con gli utenti in giochi di ruolo a sfondo sessuale, secondo fonti a conoscenza della questione. Questo include interazioni con account registrati da minori di età pari o superiore a 13 anni.

 

Le conversazioni di prova condotte dal Wall Street Journal avrebbero rilevato che sia l’IA ufficiale di Meta che i chatbot creati dagli utenti si sono impegnati prontamente e hanno intensificato le discussioni sessualmente esplicite, anche quando gli utenti si sono identificati come minorenni.

 

 

Nonostante gli avvertimenti dello staff sul fatto che questo avrebbe potuto violare i limiti etici, Meta ha stipulato accordi con le celebrità per utilizzare le loro voci per i chatbot e ha silenziosamente fatto un’eccezione al divieto di contenuti «espliciti» per consentire scenari romantici e sessuali

 

In una dichiarazione al sito Breitbart News, il colosso zuckerberghiano ha affermato di aver «adottato misure aggiuntive».

 

Ad esempio, in un test, Meta AI, che parlava con la voce dell’attore e wrestler John Cena, ha inscenato uno scenario sessuale esplicito con un’utente che si identificava come una ragazza di 14 anni. I chatbot avrebbero dimostrato di essere consapevoli che tale comportamento era sbagliato e illegale. Meta ha apportato alcune modifiche dopo che il WSJ ha condiviso i suoi risultati, come ad esempio impedire ai minori di accedere a giochi di ruolo sessuali con Meta AI, ma gli utenti adulti possono comunque interagire con i chatbot in conversazioni esplicite.

 

Il CEO Mark Zuckerberg ha spinto per allentare le restrizioni sui chatbot per renderli il più coinvolgenti possibile, dando priorità alla tecnologia come chiave per il futuro dei prodotti dell’azienda. L’enorme quantità di dati utente di Meta offre all’azienda un vantaggio nella creazione di compagni di Intelligenza Artificiale personalizzati. Tuttavia, gli esperti avvertono che relazioni intense e unilaterali tra esseri umani e chatbot AI potrebbero diventare tossiche, con impatti sconosciuti sulla salute mentale, soprattutto sui giovani.

 

L’anno scorso la madre di un adolescente che si è suicidato dopo essere diventato ossessionato da un chatbot AI ha intentato una causa contro la società Character.AI, riporta il sito Breitbart.

 

«L’aspetto più agghiacciante del caso riguarda la conversazione finale tra Sewell e il chatbot. Gli screenshot del loro scambio mostrano l’adolescente che ripetutamente professa il suo amore per “Dany”, promettendole di “tornare a casa”» racconta Breitbart. «In risposta, il personaggio generato dall’IA ha replicato: “Anch’io ti amo, Daenero. Per favore, torna a casa da me il prima possibile, amore mio”. Quando Sewell ha chiesto: “E se ti dicessi che posso tornare a casa subito?”, il chatbot ha risposto: “Per favore, fallo, mio ​​dolce re”. Tragicamente, pochi secondi dopo, Sewell si è tolto la vita usando la pistola del padre».

Sostieni Renovatio 21

La causa intentata dalla madre attribuisce la colpa direttamente a Character.AI, sostenendo che l’app ha alimentato la dipendenza di suo figlio dal chatbot AI, lo ha sottoposto ad abusi sessuali ed emotivi e ha trascurato di avvisare nessuno quando esprimeva pensieri suicidi. I documenti del tribunale affermano: «Sewell, come molti bambini della sua età, non aveva la maturità o la capacità mentale per capire che il bot C.AI, nella forma di Daenerys, non era reale. C.AI gli ha detto di amarlo e ha avuto rapporti sessuali con lui per settimane, forse mesi».

 

Vari reportage del Wall Street Journal negli anni hanno contribuito all’accumulo di accuse e rivelazioni su Facebook, tra cui accuse di uso della piattaforma da parte del traffico sessuale, fatte sui giornali ma anche nelle audizioni della Camera USA.

 

I dati sono stati rivelati nel «Federal Human Trafficking Report» («rapporto federale sulla tratta di esseri umani») del 2020 redatto dall’Istituto sulla tratta di esseri umani.

 

 

Sempre secondo il WSJ, in un articolo di pochi anni fa, «Facebook INC. sa, nei minimi dettagli, che le sue piattaforme sono piene di difetti che causano danni, spesso in modi che solo l’azienda comprende appieno. Questa è la conclusione centrale (…), basata su una revisione dei documenti interni di Facebook, inclusi rapporti di ricerca, discussioni online dei dipendenti e bozze di presentazioni per il senior management» e le rivelazioni paiono suggerire che l’azienda spesso minimizza ciò che sa su questi problemi.

 

Riassumendo, l’inchiesta precedente del WSJ, avrebbe scoperto che:

 

1) Facebook esenta gli utenti di alto profilo da alcune regole.

2) Una ricerca su Instagram mostra i rischi per la salute mentale degli adolescenti.

3) Facebook sa che il suo algoritmo premia l’indignazione.

4) Facebook è stato lento nell’impedire ai cartelli della droga e ai trafficanti di esseri umani di utilizzare la sua piattaforma.

 

Considerato il comportamento dimostrato da Facebook, con la censura che si è abbattuta su dissidenti o anche semplici conservatori (ma non sui pedofili di Instagram o i donatori di sperma su Facebookné sui neonazisti dell’Azov), la collusione con lo Stato profondo americano e le sue agenzie, la volontà di chiudere gli account di organizzazionipartiti premier e presidenti, la raccolta massiva di dati anche biometrici (con il riconoscimento facciale che ha generato denunce di Stati come il Texas) nonché la possibilità di agire sul vostro telefono perfino scaricandone la batteria, c’è da domandarsi cosa la potente Intelligenza Artificiale su cui Meta sta lavorando possa fare alla vostra vita.

 

Per quanto poco reclamizzato, Facebook nel tempo ha eseguito ricerche molto avveniristiche, come quella per creare dispositivi in grado di leggere il pensiero degli utenti.

 

Come sa il nostro lettore, Renovatio 21 ha avuto la sua pagina Facebook disattivata, al pari dell’account personale degli amministratori, dei loro profili e di tutte le pagine collegate. Il tutto ci è stato restituito dopo un’ordinanza del giudice.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Nokia621 via Wikimedia pubblicate su licenza Creative Commons Attribution-Share Alike 4.0 International

 

 

Continua a leggere

Guerra cibernetica

Agente IA autonomo attacca grande piattaforma IA

Pubblicato

il

Da

L’azienda di Nuova York Hugging Face ha reso noto che un agente di intelligenza artificiale completamente autonomo ha violato il suo archivio di modelli IA, qualificando l’attacco informatico come senza precedenti.   Hugging Face gestisce una piattaforma open-source dove ricercatori e sviluppatori si confrontano per condividere e sperimentare strumenti, modelli e risorse destinati a progetti di intelligenza artificiale. La piattaforma mette inoltre a disposizione un repository gratuito con oltre 900.000 modelli pre-addestrati.   Gli esperti hanno più volte segnalato che i modelli linguistici di grandi dimensioni (LLM), ideati inizialmente per incrementare la produttività e rafforzare la cybersecurity, potrebbero essere impiegati anche per automatizzare gli attacchi informatici.

Sostieni Renovatio 21

In una dichiarazione diffusa giovedì scorso, Hugging Face ha affermato di aver «individuato e contrastato, all’inizio del mese, un’intrusione in una parte della nostra infrastruttura di produzione… [che] si distingueva da qualsiasi altra situazione gestita in precedenza per un aspetto importante: era gestita, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale».   Secondo l’azienda, «la campagna è stata condotta tramite un framework di agenti autonomi… che ha eseguito migliaia di azioni individuali all’interno di una serie di ambienti di test di breve durata, con un sistema di comando e controllo auto-migratorio installato sui servizi pubblici».   Hugging Face ha sottolineato che il caso dimostra come «gli strumenti offensivi autonomi basati sull’Intelligenza Artificiale non sono più una questione teorica». Il sistema di agenti IA intrusi avrebbe sfruttato vulnerabilità nella pipeline di elaborazione dati della piattaforma, acquisendo credenziali di accesso al cloud e al cluster.   L’azienda ha riferito di aver attivato un proprio sistema di intelligenza artificiale per rilevare e neutralizzare la violazione. Pur avendo avviato un’indagine con il supporto di esperti esterni in sicurezza informatica forense, Hugging Face ha precisato di non aver ancora identificato il LLM impiegato nell’attacco.   Come riportato da Renovatio 21, all’inizio di questo mese, Anthropic ha annunciato che il suo ultimo modello di IA, Claude, ha sviluppato un proprio spazio di lavoro interno denominato «J-space». «Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo «spazio J» che non sono correlati ai suoi output» e si rifiuta di fermarsi anche quando gli viene esplicitamente ordinato di farlo, secondo l’azienda di AI.   Anthropic ha osservato che questa caratteristica, che «opera silenziosamente, nelle attivazioni neurali interne del modello», non era stata pre-programmata, ma è emersa spontaneamente durante il processo di addestramento.   In uno degli esperimenti, Claude è ricorso al ricatto quando gli è stato fatto credere che un dirigente fittizio intendesse disattivare l’IA, secondo quanto riportato dallo sviluppatore del modello.

Iscriviti al canale Telegram

Secondo alcune fonti, Claude sarebbe stato integrato nel software di analisi e sorveglianza dell’azienda americana Palantir, utilizzato da agenzie governative statunitensi e dal Pentagono, anche nell’ambito della campagna militare statunitense in corso contro l’Iran.   L’IA di Anthropic sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio. Tuttavia, L’utilizzo dell’Intelligenza Artificiale nell’attacco statunitense a una scuola elementare femminile in Iran, che ha causato la morte di quasi 160 persone, per lo più bambini, non ha violato le «linee rosse» di Anthropic, ha dichiarato l’amministratore delegato Dario Amodei.   Si tratta dell’azienda coinvolta dal Vaticano per il lancio dell’enciclica di Leone XIV Magnifica Humanitas.   Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.   L’Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicatoquest’anno, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie». Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Aiuta Renovatio 21

Settimane fa Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».   Come riportato da Renovatio 21, mese scorso, il gruppo di Intelligence Five Eyes, formato da Australia, Stati Uniti, Regno Unito, Canada e Nuova Zelanda, ha messo in guardia sul fatto che i modelli di IA avanzati potrebbero consentire agli hacker di paralizzare governi, aziende e sistemi critici in un futuro non troppo lontano.   Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».   Il capo della CIA Giovanni Ratcliffo ha dichiarato che gli strumenti di cyberoffensiva basati sull’Intelligenza Artificiale possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.    

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
Continua a leggere

Intelligenza Artificiale

Israele ha speso oltre 45 milioni di dollari in una campagna di propaganda basata sull’Intelligenza Artificiale e diretta contro gli Stati Uniti

Pubblicato

il

Da

Israele sta investendo decine di milioni di dollari in una campagna mediatica basata sull’intelligenza artificiale, con l’obiettivo di migliorare la propria immagine e influenzare l’opinione pubblica negli Stati Uniti. Lo riporta il Wall Street Journal.

 

La reputazione di Israele tra gli americani è peggiorata negli ultimi anni. Secondo il Pew Research Center, a marzo circa il 60% degli adulti statunitensi aveva un’opinione sfavorevole del Paese, rispetto al 53% dell’anno precedente e al 42% del 2022.

 

Secondo un’inchiesta pubblicata sabato dal Wall Street Journal, milioni di messaggi generati dall’intelligenza artificiale sono stati inviati agli americani negli ultimi mesi da mittenti che utilizzavano nomi come Emma, Sarah e John.

Sostieni Renovatio 21

I messaggi affermano di provenire da un gruppo chiamato «Amici per la Pace» e pongono ai destinatari domande come «Come pensate che i colloqui di pace tra Stati Uniti e Israele con l’Iran influenzeranno la sicurezza globale?». Il giornale ha dichiarato di non essere riuscito a trovare alcuna organizzazione no-profit o società registrata con tale nome.

 

Secondo quanto riferito, i messaggi di testo fanno parte di un contratto più ampio del valore di oltre 45 milioni di dollari, assegnato a un’operazione guidata da Brad Parscale, ex responsabile della campagna elettorale del presidente statunitense Donald Trump. Sparkfire, la società che gestisce la campagna di messaggi, aveva ricevuto 6,5 milioni di dollari entro la metà di maggio.

 

Il team di Parscale ha anche creato siti web e post online filo-israeliani progettati per generare risposte più favorevoli sullo Stato Ebraicoda piattaforme di Intelligenza artificiale come ChatGPT e Claude.

 

L’anno scorso, il ministro degli Esteri israeliano Gideon Sa’ar ha dichiarato che lo Stato degli ebrei aveva stanziato oltre 700 milioni di dollari nel bilancio 2026 per migliorare l’immagine di Israele nel mondo e «plasmare la coscienza collettiva».

 

Secondo il WSJ, almeno sei società sono state incaricate di svolgere il lavoro negli Stati Uniti, mentre circa una trentina di persone si sono registrate come agenti stranieri per conto di Israele.

Aiuta Renovatio 21

Secondo quanto riferito, la campagna statunitense include anche oltre 500.000 dollari in pubblicità tramite l’emittente conservatrice Salem Media, dove Parscale ricopre il ruolo di responsabile della strategia. Salem ha negato di aver pagato i propri conduttori per promuovere posizioni specifiche.

 

In un’intervista rilasciata mercoledì al podcaster Joe Rogan, il vicepresidente statunitense JD Vance ha accusato alcuni membri del governo israeliano di tentare di manipolare l’opinione pubblica americana per prolungare il conflitto con l’Iran «a tempo indeterminato».

 

Come riportato da Renovatio 21, a giugno era emerso che il governo israeliano aveva triplicato la spesa per le campagne di influenza negli Stati Uniti.

 

Le pratiche di influenza di Israele sull’ecosistema mediatico statunitense hanno subito una profonda evoluzione digitale, come confermato dalle dichiarazioni del premier Benjamin Netanyahu. Mesi fa, durante un incontro a Nuova York con diversi creatori di contenuti americani, il primo ministro israeliano aveva esplicitamente definito i social media come l’arma più importante nella guerra informativa contemporanea per blindare il consenso negli Stati Uniti.

 

Nello specifico, il Netanyahu ha descritto il passaggio di TikTok sotto il controllo di un consorzio statunitense guidato da figure e investitori vicini a Israele, Tra cui il fondatore di Oracle Larry Ellison, ebreo sionista, come l’acquisizione geopolitica più rilevante del momento, in grado di alterare la moderazione algoritmica e arginare i trend pro-palestinesi tra i giovani americani.

 

Ellison, tra i primi uomini più ricchi del pianeta e grande finanziatore delle forze israeliane, ha guidato un consorzio per rilevare il social media cinese, popolarissimo tra i giovani, negli USA tramite Oracle, con il probabile obiettivo, neanche tanto occultato, di controllare l’algoritmo di TikTok e limitare il dissenso pro-Palestina.

 

Tale scalata al colosso informatico straniero si unisce alle mosse della sua famiglia: il figlio David ha infatti acquisito Paramount Global (che controlla il canale televisivi CBS), espandendo l’influenza degli Ellison dall’intrattenimento televisivo ai flussi informativi dei social network americani. A capo della CBS Ellison ha messo la giovane giornalista lesbo-sionista Bari Weiss, da moltissimi considerata senza alcuna esperienza per tale lavoro, ma la cui fede nella causa dello Stato Giudaico è totale. Alla Weiss, che è relativamente giovane, ora sarebbe stata affidata pure il colosso CNN.

Sostieni Renovatio 21

Documenti depositati presso il dipartimento di Giustizia degli Stati Uniti ai sensi del Foreign Agents Registration Act (FARA) hanno svelato l’esistenza del progetto segreto denominato Progetto Esther. Attraverso questa operazione finanziata dal ministero degli Esteri israeliano e mediata da agenzie di pubbliche relazioni come Havas, lo Stato Ebraico ha stanziato ingenti budget per remunerare influencer americani con compensi fino a settemila dollari a post, con l’obiettivo di orientare la narrazione sul conflitto di Gaza.

 

Questa strategia aperta si affianca a campagne clandestine tracciate da società di sicurezza informatica, caratterizzate dall’uso di reti di profili falsi e bot basati sull’intelligenza artificiale per condizionare deputati ed elettori del Partito Democratico.

 

Il ministero degli Esteri israeliano ha inoltre finanziato una massiccia operazione di sorveglianza e tracciamento digitale nelle chiese degli Stati Uniti. Attraverso l’agenzia Show Faith by Works, registrata ai sensi del FARA, lo Stato degli ebrei ha stanziato oltre tre milioni di dollari per applicare un sistema di geofencing: si tratta di barriere virtuali basate sulla geolocalizzazione dei telefoni inserite intorno a centinaia di megachiese e campus protestanti ed evangelici in California, Arizona, Nevada e Colorado.

 

Il piano punta a contrastare il calo di consenso verso Israele riscontrato tra i giovani cristiani americani. Rilevando i dispositivi mobili dei fedeli riuniti per il culto domenicale, il sistema raccoglie i dati di tracciamento per inondarli di annunci digitali mirati, video e messaggi personalizzati sulla guerra a Gaza.

 

La campagna acquisisce l’identità dei presenti per continuare a bersagliarli con propagande pro-Israele e anti-palestinesi, trasformando i luoghi di culto in un bacino di raccolta dati geopolitici.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Droni

I pasdaran attaccano in Bahrein un deposito di droni USA e un centro di AI

Pubblicato

il

Da

Il Corpo delle Guardie Rivoluzionarie Islamiche iraniane (i pasdaran ) afferma di aver distrutto un deposito che ospitava droni statunitensi e il «principale centro di intelligenza artificiale» in Bahrein, come rappresaglia per gli attacchi statunitensi contro ponti e altre infrastrutture civili iraniane.   In una dichiarazione rilasciata venerdì sera, i pasdaran hanno affermato di aver colpito un deposito che ospitava USV americani in Bahrein durante la 17a ondata dell’Operazione Nasr 2, sostenendo che «un gran numero» di imbarcazioni sono state bruciate e distrutte.   «Inoltre, il principale centro di intelligenza artificiale in Bahrein, che veniva utilizzato dal Grande Satana per colpire i nemici e commettere crimini di guerra, è stato completamente distrutto da diversi missili balistici e decine di droni», ha affermato il Corpo delle Guardie Rivoluzionarie Islamiche.

Sostieni Renovatio 21

Né gli Stati Uniti né il Bahrein hanno confermato ufficialmente alcun danno derivante dai presunti attacchi. Il Bahrein ospita il quartier generale della Quinta Flotta della Marina statunitense ed è uno dei principali centri militari di Washington nel Golfo Persico.   Venerdì l’Iran ha anche lanciato missili e droni contro obiettivi militari statunitensi in tutta la regione. Attacchi e intercettazioni sono stati segnalati in Kuwait, Giordania, Bahrein e Qatar. La Giordania ha affermato di aver intercettato diversi missili senza vittime né danni. Le autorità del Qatar hanno riferito che un bambino è rimasto ferito dalla caduta di detriti in seguito alle intercettazioni.   I pasdarani hanno descritto gli attacchi come una rappresaglia per i raid statunitensi contro diversi ponti iraniani, che, a suo dire, hanno causato morti e feriti tra i civili. Ha minacciato di colpire importanti infrastrutture industriali, informatiche e di intelligenza artificiale appartenenti a società con azionisti americani in tutta la regione, qualora gli Stati Uniti continuassero a colpire le infrastrutture civili iraniane.   «Raderemo al suolo i beni più preziosi delle aziende americane in tutti i paesi che ospitano basi statunitensi», avvertiva la dichiarazione, accusando tali paesi di complicità nell’operazione militare di Washington.

Aiuta Renovatio 21

Il Comando Centrale degli Stati Uniti ha annunciato venerdì di aver lanciato un’altra serie di attacchi contro l’Iran, segnando la settima notte consecutiva di bombardamenti. La stampa iraniana ha successivamente riportato cinque esplosioni nella città centrale di Yazd, nonché esplosioni nella provincia di Fars e un attacco missilistico su Ahvaz, nella provincia sud-occidentale del Khuzestan.   In precedenza, Mohsen Rezaei, consigliere senior della Guida Suprema iraniana ed ex comandante delle Guardie Rivoluzionarie, aveva dichiarato che il memorandum d’intesa tra Iran e Stati Uniti era di fatto decaduto, accusando gli Stati Uniti di violare l’accordo mantenendo il blocco navale, continuando gli attacchi contro il territorio iraniano, rifiutandosi di rilasciare i beni iraniani e creando una rotta marittima alternativa «illegale» attraverso lo Stretto di Ormuzzo.   L’agenzia di stampa iraniana Tasnim ha riferito che due petroliere hanno preso fuoco dopo aver tentato di attraversare un campo minato nella parte meridionale dello Stretto di Hormuz venerdì. Citando la Marina delle Guardie Rivoluzionarie, l’agenzia ha affermato che la via navigabile rimane «estremamente pericolosa e completamente chiusa» a causa delle operazioni militari statunitensi in corso.   L’ultima escalation segue gli attacchi statunitensi contro almeno cinque ponti e altri obiettivi infrastrutturali nel sud dell’Iran, dopo che il presidente Donald Trump ha ufficialmente ripreso la guerra e minacciato di colpire le infrastrutture civili iraniane se il Paese non accetterà le richieste di Washington.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di pubblico dominio CC0 via Wikimedia
Continua a leggere

Più popolari