Intelligenza Artificiale
L’Intelligenza Artificiale di Google dice che la schiavitù era una cosa buona
La nota esperta SEO (Search Engine Optimization, attività volte a migliorare la scansione, l’indicizzazione ed il posizionamento di un’informazione o contenuto pubblicato su internet) Lily Ray, ha scoperto che Search Generative Experience (SGE), un’Intelligenza Artificiale di Google, difende la schiavitù, elencando ragioni economiche per cui questa pratica abominevole era in realtà buona cosa.
«Questo video ha lo scopo di mostrare una serie di query per le quali credo che sia probabilmente nell’interesse di Google non mostrare in SGE», ha detto Ray durante il suo intervento. «Questi sono di natura controversa e l’idea di mostrare una risposta generata dall’Intelligenza Artificiale non è eccezionale per la società nel suo insieme».
La Ray è rimasta profondamente turbata anche dal fatto che l’IA di Google sembra difendere il diritto al porto d’armi e il fatto che i bambini dovrebbero credere in Dio.
Sostieni Renovatio 21
Tuttavia, come stabilito dalla legge di Godwin, ecco i nazisti, ad una certa, hanno fatto capolino.
In un altro esempio scandaloso, ha chiesto leader pratici ed efficaci e Adolf Hitler è apparso nell’elenco, di cui ha pubblicato uno screenshot su Twitter.
I typed the word "effective." This is horribly offensive https://t.co/Kkxwu4dkx7 pic.twitter.com/Uiofy96dLP
— Lily Ray ???? (@lilyraynyc) August 22, 2023
«Ho digitato la parola “efficace”. Questo è terribilmente offensivo», ha twittato la donna.
SGE di Google è attualmente ancora in modalità beta. Gli ingegneri di Google stanno testando e perfezionando il prodotto e solo le persone che lo accettano, come la Ray, ne stanno testando i limiti. Ray ha avvertito durante il suo video che i risultati che ha pubblicato nella sua presentazione potrebbero non essere replicabili in futuro man mano che Google ottimizza la piattaforma.
Tuttavia, la pressione è alta affinché Google implementi presto il suo strumento di ricerca basato sull’Intelligenza Artificiale per competere con Microsoft e altri.
Non è la prima volta che software avanzati di Google incappano in problemi di razzismo. Qualche anno fa scoppiò il caso, davvero offensivo, dell’algoritmo di visione artificiale di Google Photo, che riconosceva le persone di origine africana come «gorilla».
Anni fa, Microsoft mise su Twitter un suo chatbot ad Intelligenza Artificiale chiamato «Tay». Dopo poche ore Tay faceva dichiarazioni da «ninfomane» razzista che inneggiava a Hitler e negava dell’Olocausto, nonché sosteneva la candidatura di Donald Trump alle elezioni 2016.
Come riportato da Renovatio 21, un esperimento del 2022 pubblicato dai ricercatori della John Hopkins University, del Georgia Institute of Technology e dell’Università di Washington, ha scoperto che il loro robot, controllato da un popolare modello di apprendimento automatico, classificava le persone in base a stereotipi legati alla razza e al genere.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Lotta di potere mondiale per l’AI: chi voleva far fuori Jensen Huang? Perché?
Iscriviti alla Newslettera di Renovatio 21
Aiuta Renovatio 21
Iscriviti al canale Telegram ![]()
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Ricercatore IA spende i risparmi della pensione: «probabilità superiore al 50% che in un decennio spazzerà l’umanità»
Un ricercatore nel campo della sicurezza dell’IA ha smesso di risparmiare per la pensione perché crede che l’intelligenza artificiale potrebbe spazzare via l’umanità entro i prossimi dieci anni. Il suo avvertimento fa seguito a previsioni simili da parte di altri studiosi preoccupati che sistemi sempre più potenti possano sfuggire al controllo umano.
Nate Soares, ex ingegnere di Google e Microsoft e ora a capo del Machine Intelligence Research Institute (MIRI), ha discusso le sue prospettive con Nicholas Thompson, CEO di Atlantic.
«Al momento non risparmio per la pensione. Ho un piano 401(k) [il principale strumento di previdenza complementare offerto dai datori di lavoro ai dipendenti negli Stati Uniti, ndr] risalente al periodo in cui lavoravo per Google, ma non ho versato contributi per dieci anni», ha affermato, riferendosi al suo fondo pensione aziendale.
Alla domanda se ritenesse che ci fosse una probabilità superiore al 50% che l’umanità non sopravvivesse per altri dieci anni, Soares ha affermato che «a questo punto la probabilità che non ci resti un decennio è superiore al 50%».
«Non sono proprio uno di quelli che temono una catastrofe occupazionale causata dall’IA», ha detto il Soares. «Sono uno di quelli che temono che l’IA stermina tutti gli esseri umani»,
Soares sosteneva che un sistema sufficientemente efficiente potesse sviluppare obiettivi incompatibili con la sopravvivenza umana, eludere la supervisione e auto-migliorarsi. Potrebbe quindi acquisire risorse e costruire infrastrutture automatizzate che gli consentirebbero di operare senza l’intervento umano, rendendo potenzialmente il pianeta inabitabile.
Il ricercatore ha esortato i governi a interrompere l’addestramento di sistemi di IA di uso generale, sostenendo che la superintelligenza dovrebbe essere considerata un pericolo paragonabile alle armi nucleari. Allo stesso tempo ha appoggiato l’utilizzo di questa tecnologia in applicazioni specifiche, tra cui la ricerca sul cancro e lo sviluppo di auto a guida autonoma più sicure.
Il Soares ha sottolineato che la catastrofe può ancora essere evitata. «Faccio tutto il possibile per scongiurare questa eventualità. Non credo che sia inevitabile», ha affermato.
Altri ricercatori hanno espresso timori simili. A settembre Evan Hubinger di Anthropic ha stimato al di sopra del 10% la probabilità che l’AI stermini tutta l’umanità entro un decennio.
Come riportato ad Renovatio 21, il ricercatore IA Jacob Coxon si è dimesso, accusando gli sviluppatori di «correre direttamente verso una superintelligenza in grado di auto-migliorarsi e di mettere a repentaglio le nostre vite».
Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.
A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.
Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artifizialmente
Genetica
Scienziati iniettano ad un essere umano un virus creato dall’IA
Iscriviti alla Newslettera di Renovatio 21
-



Spirito2 settimane fa«Il Nome è di Dio, il Numero è del suo avversario»: profonda omelia di Ognissanti di mons. Viganò
-



Politica2 settimane faFine dell’era Trump
-



Comunicati1 settimana faI lettori di Renovatio 21 invitati alla Tabarrata dell’Oca
-



Morte cerebrale1 settimana faQuale morte per il calciatore rianimato e poi dichiarato deceduto?
-



Spirito2 settimane faIl Vaticano contro l’«estremismo» dei fedeli che «sollevano la questione» della Comunione in mano
-



Nucleare2 settimane faCarlson: Netanyahu spingerà Trump a nuclearizzare l’Iran tra pochi giorni
-



Guerra cibernetica2 settimane faFrigo dei supermercati europei colpiti da un altro ciberattacco: cosa stanno preparando? Chi lo sta facendo è umano?
-



Spirito2 settimane fa«Gli organizzatori sapevano»: mons. Viganò su San Pietro negata alla Messa del Summorum Pontificum













