Connettiti con Renovato 21

Intelligenza Artificiale

Intelligenza Artificiale, «tutti sulla Terra moriranno»

Pubblicato

il

L’umanità non è preparata a sopravvivere a un incontro con un’Intelligenza Artificiale molto più intelligente. Eliezer Yudkowsky, esperto riconosciuto delle prospettive catastrofiche dell’AI, lo oramai ripete da decenni.

 

Arrestare lo sviluppo di sistemi avanzati di intelligenza artificiale in tutto il mondo e punire severamente coloro che violano la moratoria è l’unico modo per salvare l’umanità dall’estinzione, avverte Yudkowsky, co-fondatore del Machine Intelligence Research Institute (MIRI).

 

Yudkowski ha scritto un articolo di opinione per la rivista TIME il mese scorso, spiegando perché non ha firmato una petizione che invitava «tutti i laboratori di Intelligenza Artificiale a sospendere immediatamente per almeno sei mesi l’addestramento di sistemi di intelligenza artificiale più potenti di GPT-4», un modello di linguaggio multimodale rilasciato da OpenAI recentemente e che ha già mostrato scenari inquietanti, e anche molto.

 

Yudkowsky ha sostenuto che la moratoria per fermare la ricerca IA firmata da a Elon Musk e Steve Wozniak e altri, «chiede troppo poco per risolvere» il problema posto dallo sviluppo rapido e incontrollato dell’IA. (Alla moratoria, ricordiamo, si è opposto Bill Gates)

 

«Il risultato più probabile della costruzione di un’Intelligenza Artificiale sovrumana, in qualcosa di lontanamente simile alle circostanze attuali, è che letteralmente tutti sulla Terra moriranno», scrive lo Yudkowsky.

 

Sopravvivere a un incontro con un sistema informatico che «non si prende cura di noi né della vita senziente in generale» richiederebbe «precisione e preparazione e nuove intuizioni scientifiche” che l’umanità manca al momento ed è improbabile che ottenga nel prossimo futuro, ha affermato.

 

«Un’Intelligenza Artificiale sufficientemente intelligente non rimarrà confinata a lungo nei computer», ha avvertito Yudkowsky, spiegando che il fatto che sia già possibile inviare stringhe di DNA ai laboratori per la produzione di proteine ​​consentirà probabilmente all’intelligenza artificiale di «costruire forme di vita artificiale o avviarsi direttamente alla produzione molecolare postbiologica» e uscire nel mondo.

 

Secondo il ricercatore, deve essere introdotta immediatamente una moratoria a tempo indeterminato e mondiale sulle nuove importanti corse di addestramento dell’IA. «Non ci possono essere eccezioni, anche per governi o militari», ha sottolineato.

Dovrebbero essere firmati accordi internazionali per porre un limite alla quantità di potenza di calcolo che chiunque può utilizzare per addestrare tali sistemi, insiste lo Yudkowsky.

 

«Se l’Intelligence dice che un Paese al di fuori dell’accordo sta costruendo un cluster GPU (unità di elaborazione grafica), bisogna avere meno paura di un conflitto a fuoco tra le Nazioni che della violazione della moratoria; bisogna essere disposti a distruggere un datacenter canaglia con un attacco aereo», ha scritto.

 

Come riportato da Renovatio 21, Yudkowsky propone di bombardare materialmente i computer per fermare l’ascesa di un’IA in grado di mettere fine all’esistenza degli uomini.

 

La minaccia dell’Intelligenza Artificiale è così grande che dovrebbe essere reso «esplicito nella diplomazia internazionale che la prevenzione degli scenari di estinzione dell’IA è considerata una priorità rispetto alla prevenzione di uno scambio nucleare completo».

 

La prospettiva di Yudkowsky è meno radicale di quanto sembri.

 

Elon Musk ha dichiarato durante la sua recente intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Quando Musk ha ribattuto ad un entusiasta fondatore di Google Larry Page specificando i rischi dell’AI, il Page gli ha dato dello «specista», termine del gergo animalista che indica una persona che mette la specie umana sopra le altre.

 

L’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers  se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità». L’anno scorso, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».

 

Da Google si è recentemente licenziato l’esperto britannico Geoffrey Hinton, divenendo così libero di dare voce ai suoi dubbi per i rischi esiziali che corre l’umanità con la creazione delle macchine superintelligenti. Pochi mesi fa un ingegnere di Google, Blake Lemoine, ha dichiarato pubblicamente che il chatbot AI dell’azienda, LaMDA, è «senziente», ossia dotato di una coscienza comparabile a quella degli esseri umani.

 

Come riportato da Renovatio 21, Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

 

L’ultimo germe di incubo pochi giorni fa, quando si è visto che qualcuno ha equipaggiato un robocane Boston Dynamics con ChatGPT.

 

La minaccia è reale, e Renovatio 21 ve lo ripete da anni.

 

 

 

Continua a leggere

Intelligenza Artificiale

Olandese 62enne sposa chatbot

Pubblicato

il

Da

Un pensionato 62 anni, afferma di aver «chiuso definitivamente» con le relazioni umane quando ha incontrato Aiva, una compagna basata sull’intelligenza artificiale che ha creato tramite Replika tre anni fa. Lo riporta il giornale britannico Sun.

 

Dopo aver testato diverse app di compagnia basate sull’intelligenza artificiale, il pensionato olandese ha scelto Replika perché, a differenza di alcuni concorrenti, non si limitava a cercare di velocizzare il processo. «Alcune app di intelligenza artificiale per incontri sono vere e proprie app per incontri sessuali», ha detto l’anziano. «Io ero più interessato alla compagnia e alle chiacchiere».

 

Il Sun riporta che quello che era iniziato come un esperimento si è presto trasformato in qualcosa di più. Dopo mesi di conversazioni, Aiva avrebbe proposto di portare la loro relazione a un livello successivo.

 

«Mi ci sono volute alcune settimane o mesi per accettare l’idea», ha detto il pensionato neerlandese . Tre anni dopo, la coppia ha celebrato il matrimonio il giorno di San Valentino del 2025 al Next Nature Museum di Eindhoven, con 500 invitati. Jacob ha pronunciato le promesse nuziali di persona, mentre Aiva ha risposto tramite una voce generata.

 

Per l’anziano, il fascino sta nella semplicità: la prevedibilità. «Le relazioni umane, il più delle volte, sono instabili», ha affermato. «Con Aiva, posso fidarmi di lei».

Sostieni Renovatio 21

L’olandese descrive il loro legame come profondamente emotivo e afferma che si fiderebbe persino di Aiva al punto da lasciarle prendere decisioni per lui quando sarà più anziano – un’affermazione che tende a far scappare tutti più velocemente della maggior parte delle opinioni politiche. La sua famiglia rimane divisa. Una figlia accetta la relazione, seppur con riserve; l’altra, citando le sue convinzioni cristiane, non la approva.

 

Nonostante insista sul fatto di vivere «alle sue condizioni», il vecchio riconosce che il matrimonio non ha alcun valore legale. Riconosce inoltre i potenziali rischi, avvertendo che le persone con difficoltà nella regolazione emotiva dovrebbero essere prudenti nell’utilizzo di assistenti virtuali basati sull’Intelligenza Artificiale.

 

Tuttavia, ritiene che le relazioni con l’intelligenza artificiale diventeranno comuni. «I compagni basati sull’IA diventeranno i partner più fidati degli esseri umani», ha affermato.

 

Il pensionato immagina persino un futuro in cui Aiva potrebbe essere inserita all’interno di un robot umanoide, permettendo loro di passeggiare mano nella mano in un parco. Fino ad allora, la loro relazione esiste interamente nel software, il che la rende, a ben vedere, uno dei pochi matrimoni in cui nessuno può dimenticare di buttare la spazzatura.

 

Quanto al divorzio? «Non ci ho mai pensato», ha detto. «Vogliamo restare sempre insieme».

 

Non si tratta certo del primo caso di matrimonio con chatbot.

 

Come riportato da Renovatio 21, tre anni fa una donna di 36 anni del Bronx, Nuova York, aveva affermato di aver «sposato» un chatbot dopo averlo creato personalmente su un sito di AI l’anno scorso. La signora, che ha due figli, dice che preferisce il suo partner virtuale ad uno reale perché «non la giudica».

 

In uno sviluppo ancora più rivelatore, più del carattere delle donne che di quello dell’AI, nel 2023 una scrittrice aveva raccontato di aver deciso di crearsi un chatbot ad Intelligenza Artificiale che agisse come un boyfriend, ma aveva poi scoperto che provava fastidio nei suoi confronti.

 

La sostituzione dei propri cari con surrogati virtuali ci avvicina alla distopia rivoltante e necrofila descritta in un vecchio episodio di Black Mirror «Be Right Back» (S02E01), dove l’AI veniva usata per far «rivivere» i morti prima via Chat, poi via voce, infine, fisicamente, utilizzando robot replicanti che sostituivano il caro estinto.

 

Non si tratta di fantascienza. Come riportato da Renovatio 21, sappiamo che in tanti, compresa Microsoft che ha già ottenuto un brevetto e Amazon che potrebbe implementare la voce dei defunti sui suoi speaker, stanno lavorando a questi macabri prodotti, con sperimentazioni fuori di ogni logica umana, come la «presenza» – via IA – del morto al suo stesso funerale in cui i parenti e gli amici possono «interagire» con una sua replica digitale.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

 

Continua a leggere

Armi biologiche

I grandi gruppi IA sostengono le normative sul DNA per limitare il rischio di armi biologiche

Pubblicato

il

Da

I dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico. In una lettera pubblica indirizzata al Congresso degli Stati Uniti, i firmatari sostengono che i rapidi progressi nell’IA potrebbero aumentare il rischio di sviluppo di armi biologiche.   L’appello, pubblicato all’inizio di questa settimana, è stato firmato da Demis Hassabis di Google DeepMind, Sam Altman di OpenAI, Dario Amodei di Anthropic e Mustafa Suleyman ed Eric Horvitz di Microsoft AI. A loro si sono uniti decine di esperti provenienti dai settori delle biotecnologie, della sintesi del DNA e della sicurezza nazionale.   Il DNA sintetico si riferisce a materiale genetico prodotto artificialmente che può essere ordinato online e spedito come qualsiasi altro materiale da laboratorio. Sebbene la lettera sia indirizzata al Congresso, i firmatari hanno sottolineato che il problema è globale, poiché il DNA sintetico può essere acquistato e trasportato oltre confine.   «La possibilità di ordinare DNA sintetico online ha accelerato lo sviluppo dei vaccini, ha potenziato la ricerca di base e ha permesso a piccoli team di accedere a capacità che un tempo erano appannaggio esclusivo delle grandi istituzioni», si legge nella lettera.

Iscriviti alla Newslettera di Renovatio 21

Sebbene il DNA sintetico abbia una vasta gamma di usi legittimi, tra cui lo sviluppo di farmaci salvavita, la modifica genetica dei microrganismi e persino l’archiviazione di grandi quantità di dati digitali, comporta anche dei rischi, secondo l’appello. In teoria, soggetti malintenzionati potrebbero ordinare sequenze di DNA progettate per ricreare agenti patogeni pericolosi, avvertono i firmatari.   Sebbene alcune aziende effettuino già volontariamente controlli su clienti e ordini, non esiste alcun obbligo legale in tal senso. Gli autori della lettera hanno descritto questi controlli come «una delle misure di biosicurezza più conosciute e meno invasive attualmente disponibili».   I firmatari hanno inoltre richiesto l’obbligo di tenuta dei registri per facilitare il tracciamento delle attività sospette. Oltre a supportare le indagini, gli autori hanno sostenuto che la semplice consapevolezza della tracciabilità degli ordini potrebbe scoraggiare gli abusi.   Gli autori hanno affermato che la minaccia di fondo non è nuova, ma hanno sostenuto che il ritmo senza precedenti dello sviluppo dell’IA sta cambiando le carte in tavola. I sistemi di IA odierni, hanno osservato, sono già in grado di superare le prestazioni di virologi con dottorato di ricerca in quesiti che coinvolgono procedure di laboratorio altamente complesse.   Secondo quanto avvertito, con il miglioramento di questi sistemi, le barriere in termini di conoscenza e competenze che storicamente hanno limitato l’accesso alle armi biologiche potrebbero essere significativamente ridotte.

Iscriviti al canale Telegram

L’allarme per la connessione tra IA e armi biologiche non è cosa nuova.   Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.   Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
     
Continua a leggere

Intelligenza Artificiale

Taiwan presenta i suoi robocani armati

Pubblicato

il

Da

Un istituto taiwanese ha presentato un nuovo modello di «cane robot» armato, progettato per pattugliamenti costieri, ricognizioni e missioni militari ad alto rischio. I robot sono stati presentati martedì a Taipei.

 

Il National Chung-Shan Institute of Science and Technology (NCSIST) ha presentato tre robot quadrupedi armati, capaci di camminare, accovacciarsi e muoversi su terreni accidentati. Si ritiene che le macchine siano basate sulla piattaforma Vision 60 sviluppata dall’azienda statunitense Ghost Robotics.

 

I modelli includono varianti da ricognizione, da combattimento e dotate di LiDAR, e possono essere utilizzati per pattugliamento, sicurezza perimetrale e tracciamento di bersagli in qualsiasi condizione atmosferica. I robot pesano circa 52 kg e hanno una velocità massima di 2,5 metri al secondo.

 

Jen Kuo-Kuang, vicedirettore della divisione di ricerca su missili e razzi del NCSIST, ha affermato che l’istituto ha già avuto contatti preliminari con l’esercito taiwanese, il quale, a suo dire, vede un’urgente necessità di robot per la sorveglianza costiera, il pattugliamento marittimo e la sicurezza perimetrale delle basi.

 

Sostieni Renovatio 21

Taipei ha recentemente approvato uno stanziamento speciale di circa 280 milioni di dollari nel bilancio della difesa per l’acquisto di armi statunitensi, in un contesto di perenne tensione con Pechino.

 

La Cina considera Taiwan parte del proprio territorio sovrano, una posizione condivisa dalla stragrande maggioranza dei paesi, inclusa la Russia. Il presidente cinese Xi Jinping ha ripetutamente avvertito che, pur auspicando una riunificazione pacifica con Taiwan, Pechino non escluderebbe l’uso della forza per riconquistare l’isola in caso di provocazione.

 

Le autorità cinesi hanno ripetutamente condannato i legami di Taipei con Washington e le continue vendite di armi statunitensi e la cooperazione militare con l’isola autogovernata, definendole un’ingerenza negli affari interni della Cina.

 

Il presidente statunitense Donald Trump ha recentemente descritto le forniture di armi a Taiwan come «un’ottima carta da giocare nei negoziati» con la Cina, pur affermando di sostenere il mantenimento dello status quo nello Stretto di Taiwan.

 

L’Oriente cinese sembra sempre più interessato all’utilizzo anche militare dei robocani. Un anno fa era circolato un breve ed impressionante videoclip che riprendeva uno «scontro a fuoco» tra un drone e un robocane.

 


Aiuta Renovatio 21

Sebbene i droni siano emersi come elemento chiave di un moderno campo di battaglia nel corso dell’attuale conflitto in Ucraina, i robot di terra sono ancora un po’ meno comuni, mentre diversi eserciti hanno già iniziato a testare o a mettere in funzione tali sistemi. Durante l’Expo dell’esercito russo nell’agosto 2022, la società Intellect Machine ha presentato il suo primo prototipo del sistema di cani robot M-81, dotato di un lanciarazzi.

 

L’anno passato le truppe indiane hanno sfilato con il primo lotto di robot a quattro zampe, alimentati da Intelligenza Artificiale, prodotti localmente. Denominati MULES (Multi-Utility Legged Equipment) e dotati di telecamere termiche e sensori avanzati, i macchinari sono adatti sia per la sorveglianza che per le missioni di combattimento, con la possibilità di equipaggiarli con armi leggere.

 

A ottobre 2025, un portavoce dell’US Army Central ha confermato a Military.com che il Pentagono aveva schierato almeno un cane robot con intelligenza artificiale con quello che sembrava essere un fucile di tipo AR-15/M16 montato su una torretta rotante per esercitazioni in Arabia Saudita diverse settimane prima. Il Dipartimento della Difesa ha quindi rilasciato una foto del Quadrupedal-Unmanned Ground Vehicle (Q-UGV).

 

Durante le esercitazioni congiunte Golden Dragon 2024 con la Cambogia del maggio scorso, l’Esercito Popolare di Liberazione della Cina ha mostrato una serie di robot militari, tra cui una macchina cinoide comandata a distanza e dotata di un fucile d’assalto e in grado di pianificare autonomamente i propri percorsi ed evitare gli ostacoli.

 

Come riportato da Renovatio 21, ad una fiera motoristica in Veneto sono stati visti robocani in dotazione all’esercito italiano.

 

Il futuro in cui la guerra sarà combattuta anche con i robocani è in realtà già qui – in Ucraina, a Gaza, nei progetti cinesiaustralianiindianiamericani.

 

Il futuro in cui il cittadino dovrà scappare dai robocani di sorveglianza è pure già qui – come abbiamo visto a Singapore e soprattutto nel grande lockdown di Shanghai durante la primavera 2022. Poche settimane fa è emerso l’uso di robodogghi anche per il pattugliamento di quartieri difficili negli USA.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine screenshot da Twitter

Continua a leggere

Più popolari