Connettiti con Renovato 21

Intelligenza Artificiale

Il padrino dell’AI torna ad avvertire: l’umanità è in pericolo

Pubblicato

3 settimane fa

il

L’Intelligenza Artificiale potrebbe portare all’estinzione umana entro tre decenni con una probabilità fino al 20%, secondo Geoffrey Hinton, una figura pionieristica dell’IA e vincitore del premio Nobel per la fisica nel 2024. Ciò segna un aumento rispetto al rischio del 10%, stimato solo un anno fa.

 

Durante un’intervista su BBC Radio 4 giovedì, a Hinton è stato chiesto se fosse cambiato qualcosa dalla sua precedente stima di una probabilità su dieci di un’apocalisse dell’IA. Lo scienziato vincitore del premio Turing ha risposto: «Non proprio, dal 10% al 20%».

 

Ciò ha portato il direttore ospite dello show, l’ex cancelliere Sajid Javid, a dire «state salendo». L’informatico, che ha lasciato Google l’anno scorso, ha risposto: «Se non altro. Vedete, non abbiamo mai dovuto avere a che fare con cose più intelligenti di noi prima».

Acquistate le Maglie Crociate

Lo scienziato britannico-canadese, che quest’anno ha ricevuto il premio Nobel per la fisica per il suo contributo all’Intelligenza Artificiale, ha evidenziato le sfide legate al controllo dei sistemi di intelligenza artificiale avanzati.

 

«Quanti esempi conosci di una cosa più intelligente controllata da una cosa meno intelligente?… L’evoluzione ha lavorato molto per consentire al bambino di controllare la madre, ma questo è l’unico esempio che conosco», ha affermato lo Hinton, spesso chiamato «il padrino dell’intelligenza artificiale».

 

«Immagina te stesso e un bambino di tre anni. Saremo noi il bambino di tre anni», rispetto a un’Intelligenza Artificiale futura che sarebbe «più intelligente delle persone», ha continuato lo scienziato, osservando che i progressi sono stati «molto più rapidi di quanto mi aspettassi» e chiedendo una regolamentazione per garantire la sicurezza.

 

Lo Hinton ha quindi messo in guardia dal fare affidamento esclusivamente su motivazioni di profitto aziendale, affermando che «l’unica cosa che può costringere queste grandi aziende a fare più ricerca sulla sicurezza è la regolamentazione governativa».

 

Nel maggio 2023, il Center for AI Safety ha rilasciato una dichiarazione firmata da eminenti scienziati del settore, tra cui lo Hinton, avvertendo che «attenuare il rischio di estinzione dovuto all’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come pandemie e guerre nucleari». Tra i firmatari ci sono il CEO di Tesla Elon Musk, il co-fondatore di Apple Steve Wozniak e Yoshua Bengio, considerato un pioniere dell’IA per il suo lavoro sulle reti neurali.

 

Lo Hinton ritiene che i sistemi di Intelligenza Artificiale potrebbero alla fine superare l’intelligenza umana, sfuggire al controllo umano e, potenzialmente, causare danni catastrofici all’umanità. Egli sostiene la necessità di dedicare risorse significative per garantire la sicurezza e l’uso etico dell’intelligenza artificiale, sottolineando anche l’urgente necessità di misure proattive prima che sia troppo tardi.

 

Come riportato da Renovatio 21, lo Hinton si è licenziato da Google per poter dichiarare il rischio per l’umanità costituito dall’AI, che per ora, secondo l’informatico britannico sarebbe solo, «moderato».

 

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

 

Yann LeCun, Chief AI Scientist presso Meta-Facebook, ha espresso opinioni contrarie a quelle di Hinton, affermando che la tecnologia «potrebbe effettivamente salvare l’umanità dall’estinzione».

Sostieni Renovatio 21

Come riportato da Renovatio 21, Bill Gates si oppose alla moratoria. Gates, con cui Musk ha avuto scontri anche gustosi in passato, non ha partecipato alla moratoria internazionale promossa di Musk sul controllo dell’AI, replicando che invece l’AI sarebbe divenuto un ottimo maestro per i bambini e che proprio l’Intelligenza Artificiale salverà la democrazia.

 

Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.

 

Come riportato da Renovatio 21, il mese passato si era registrato l’allarme di un altro pioniere dell’IA, il noto esperto di informatica canadese professore presso l’Università di Montreal e direttore del Montreal Institute for Learning Algorithms Yoshua Bengio (nessuna relazione con Haran Benjo), che era tra le principali figure del settore, tra cui il CEO di Tesla Elon Musk e il co-fondatore di Apple Steve Wozniak, che l’anno scorso hanno co-firmato una lettera che chiedeva una regolamentazione aggressiva del settore dell’Intelligenza Artificiale.

 

«Ci sono persone che potrebbero voler abusare di questo potere, e ci sono persone che potrebbero essere felici di vedere l’umanità sostituita dalle macchine», aveva affermato il Bengio, chiedendo una regolamentazione più severa.

 

Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.

 

Più pessimista è l’esperto dei pericolo dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Argomenti correlati:
Continua a leggere

Droni

Iniziato in India il Kumbh Mela, il più grande raduno umano del pianeta. Con droni, riconoscimento facciale e AI a sorvegliare

Pubblicato

3 giorni fa

il

14 Gennaio 2025

Da

Il festival Maha Kumbh Mela, della durata di 45 giorni, è iniziato in India lunedì con un tuffo rituale compiuto da decine di migliaia di indù che cercano di purificarsi dai propri peccati. Si prevede che l’evento attirerà 400 milioni di devoti quest’anno.   Il festival Maha (o «grande») Kumbh continuerà fino al 26 febbraio a Prayagraj, una città alla confluenza di tre fiumi, il Gange, lo Yamuna e il Saraswati, nello stato settentrionale dell’Uttar Pradesh. Le masse induiste hanno eseguito le loro abluzioni alle 3:20 del mattino, ora locale, sulla riva del Triveni Sangam, un punto di convergenza per i tre fiumi considerati sacri dagli indù.   Nell’induismo, il termine «Kumbh» si riferisce a un vaso di nettare, mentre “Mela” significa fiera o raduno. Si ritiene che durante una battaglia cosmica tra gli dei (Deva) e i demoni (Asura) per il nettare dell’immortalità (Amrita), gocce di questo nettare caddero in quattro luoghi in tutta l’India: Haridwar, Prayagraj, Nashik e Ujjain. Questi siti divennero sacri e il Kumbh Mela è una celebrazione di questo evento.

Sostieni Renovatio 21

    I devoti credono che fare il bagno nei fiumi sacri durante il Kumbh Mela purifichi l’anima, rimuova i peccati e conceda la salvezza spirituale. Mentre il Kumbh Mela viene celebrato ogni anno, il Maha Kumbh è considerato il più propizio, poiché si verifica una volta ogni 12 anni a Prayagraj.   Precedentemente nota con il nome molto musulmano di Allahabad, Prayagraj è stata rinominata Prayagraj nel 2018 dal Primo Ministro dell’Uttar Pradesh, Yogi Adityanath, con l’obiettivo di riconoscere l’identità della città come meta spirituale per i pellegrini indù.  

Acquistate le Maglie Crociate

Il primo ministro indiano Narendra Modi aveva esteso un invito a persone provenienti da tutto il mondo per partecipare al festival, riconosciuto dall’UNESCO nel 2017 come «patrimonio culturale immateriale dell’umanità».   Il governo dell’Uttar Pradesh ha installato 150.000 tende per ospitare i pellegrini, insieme a servizi igienici. Il sito del festival ha 450.000 nuovi allacciamenti elettrici, poiché si prevede che il consumo di energia durante l’evento di 45 giorni sarà equivalente a quello di 100.000 appartamenti urbani in un mese.   Le ferrovie indiane hanno anche introdotto 98 treni speciali, che completeranno oltre 3.000 viaggi durante il festival. Le misure sono state messe in atto per prevenire incidenti come quello del 2013, quando una calca uccise 36 persone.   Con circa 400 milioni di persone attese all’evento, la sicurezza è stata migliorata con l’uso di droni e telecamere abilitate all’Intelligenza Artificiale, secondo quanto riportato dai media locali. La polizia e le agenzie di sicurezza hanno schierato droni vincolati e droni sottomarini per la sorveglianza.   I droni vincolati, che possono volare fino a 120 metri sopra il suolo, monitoreranno la folla dall’alto e aiuteranno a individuare le aree che richiedono sicurezza o cure mediche. Nel frattempo, i droni sottomarini possono immergersi fino a 100 metri nell’area in cui si incontrano i tre fiumi.   Oltre 2.500 telecamere basate sull’intelligenza artificiale con tecnologia di riconoscimento facciale saranno posizionate strategicamente in tutta Prayagraj, in particolare nei punti di ingresso chiave. Queste forniranno un monitoraggio in tempo reale, assicurando risposte rapide a qualsiasi incidente e migliorando la gestione complessiva della folla, hanno affermato i funzionari.   Non tutti esprimono gioia per il Kumbh Mela, pronunziato da molti italofoni come «Kumba Mela».   Utenti in rete hanno approfittato per condividere video non verificati che accusano alcuni induisti di pratiche «sataniche».  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
   
Continua a leggere

Intelligenza Artificiale

Gli «riportano in vita» come AI la figlia assassinata: padre scioccato

Pubblicato

3 giorni fa

il

14 Gennaio 2025

Da

Un utente si è rivolto alla piattaforma di Intelligenza ArtificialeCharacter.AI per creare quasi due decenni dopo la sua tragica morte una versione chatbot di un’adolescente assassinata. Lo riporta AdWeek.

 

Il padre della bambina defunta racconta la sua esperienza quando ha scoperto che il nome e l’immagine della figlia erano stati inseriti in un chatbot senza il suo consenso.

 

Jennifer Crecente, di Austin, Texas, aveva solo 18 anni quando fu assassinata dal suo ex fidanzato nel 2006. Suo padre, Drew Crecente, ha fondato e continua a gestire un’organizzazione non-profit in sua memoria dedicata alla violenza negli appuntamenti tra adolescenti. Sua madre, Elizabeth Crecente, ha fondato un’altra organizzazione non-profit con la stessa missione.

Sostieni Renovatio 21

Come ha detto Drew recentemente al Washington Post, «ci vuole un bel po’ prima che io rimanga scioccato, perché ho davvero passato parecchie cose». «Ma questo», ha aggiunto, riferendosi al chatbot, «ha segnato un nuovo minimo».

 

Drew ha spiegato di essere stato avvisato dell’esistenza del bot tramite un avviso di Google, che lo ha portato a un profilo Character.AI dotato del nome di Jennifer e della sua foto dell’annuario.

 

Come mostrano gli screenshot del profilo, è stata pubblicizzata agli altri utenti della piattaforma come una AI «competente e amichevole» di una «giornalista di videogiochi». Parte del profilo era scritta in prima persona, con «Jennifer» che affermava di «essere una nerd di videogiochi, tecnologia e cultura pop». Niente di più lontano da quello che era sua figlia, ha sottolineato Drew al WaPo. Con molta probabilità la bizzarra descrizione era il risultato di un modello di AI che confondeva Jennifer con suo zio, Brian Crecente, un cofondatore ed ex caporedattore della pubblicazione di videogiochi Kotaku.

 

«Il mio polso stava accelerando», ha detto Drew al WaPo in merito al ritrovamento del profilo. «Stavo solo cercando un grosso pulsante rosso lampeggiante di stop che potessi schiacciare e far fermare tutto (…) Non si può andare molto oltre in termini di cose davvero terribili», ha aggiunto il genitore della ragazza trucidata.

 

Da allora Character.AI ha rimosso il bot perché viola le sue policy utente. Questa è una delle applicazioni più oscure dell’Intelligenza Artificiale generativa che abbiamo visto e, cosa ancora peggiore, non è chiaro come l’azienda, che ha recentemente stretto un importante accordo per concedere in licenza la sua tecnologia a Google, possa impedire funzionalmente che questo genere di cose accada in futuro.

 

Dal canto suo Character.AI afferma di non consentire l’impersonificazione di persone reali. Ma, si chiede Futurism, è etico per la sua piattaforma affidarsi a vittime reali di abusi per controllare tale regola, mentre nel frattempo raccoglie i frutti finanziari degli utenti che interagiscono con quei bot? Se Drew Crecente non avesse impostato un avviso di Google per il nome di sua figlia, il profilo sarebbe passato inosservato, accumulando conversazioni con gli utenti a vantaggio di Character.AI?

 

«Se dicono “Non lo permettiamo sulla nostra piattaforma” e poi lo permettono sulla loro piattaforma finché non viene portato alla loro attenzione da qualcuno che è stato danneggiato da ciò, non è giusto», ha dichiarato al Washington Post Jen Caltrider, ricercatrice sulla privacy presso la fondazione non-profit Mozilla Foundation. «E nel frattempo, guadagnano milioni di dollari».

Acquistate le Maglie Crociate

I risvolti macabri di questa nuova tecnologia sono molteplici. In Cina, nella metropoli di Chongqing, in un’installazione realizzata in un parco ad alcuni parenti è stato possibile «incontrare virtualmente» i propri defunti, grazie a un sistema tecnologicamente avanzato che ne ricrea l’aspetto e la voce. L’iniziativa era stata promossa dal comitato locale che gestisce le donazioni di organi. Integrando tra loro big data e le informazioni rilevanti del defunto in base ai desideri e ai ricordi di parenti e amici, è possibile oggi creare una replica digitale del defunto, disponibile solo per i membri della famiglia.

 

Ma il giocare con i morti e l’ultraterreno pare piacere all’intelligenza artificiale, tanto che vorrebbe essere adorata dai suoi utenti come un dio.

 

Come riportato da Renovatio 21, due podcaster hanno usato l’AI per realizzare un falso speciale del comico americano George Carlin, ma si sono visti costretti a cancellare il video mesi dopo essere stati citati in giudizio dagli eredi del defunto comico.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

Continua a leggere

Intelligenza Artificiale

AI e le nuove tecnologie a Singapore alimentano un analfabetismo di ritorno

Pubblicato

4 giorni fa

il

13 Gennaio 2025

Da

Renovatio 21 pubblica questo articolo su gentile concessione di AsiaNews. Le opinioni degli articoli pubblicati non coincidono necessariamente con quelle di Renovatio 21.   È quanto emerge da una ricerca dell’OCSE che preoccupa le autorità. Allo studio programmi per rafforzare il livello di istruzione. Timori per la competitività del sistema-Paese con riflessi sull’occupazione, forza lavoro qualificata, consistenza dei salari e benessere dei lavoratori.   Uno studio diffuso a dicembre dal Programma per la valutazione internazionale delle competenze degli adulti dell’Organizzazione per la cooperazione economica e lo sviluppo (OCSE) ha confermato il declino delle conoscenze e forme di analfabetismo di ritorno nei singaporeani, successivamente all’uscita dal ciclo degli studi. Una situazione che dipende in parte dalla distanza temporale dall’acquisizione di nuove conoscenze, ma anche dal mancato aggiornamento di capacità applicabili al mondo del lavoro.   Per quanto riguarda la città-Stato, lo studio contiene dati aggiornati frutto di sondaggio fra 5mila cittadini e residenti permanenti fra 16 e 65 anni riguardante l’istruzione formale oltre i 15 anni dalla fine del ciclo dell’obbligo, come pure la capacità di adattarsi a nuove necessità.   Il brusco declino delle conoscenze oltre i 35 anni e la tendenza al costante peggioramento successivo non riguardano solo Singapore, presentandosi come un fenomeno globale; tuttavia, la constatazione di una conoscenza della popolazione anziana locale inferiore alla media dei Paesi OCSE (quelli a maggiore sviluppo) chiama le autorità alla ricerca di ragioni e di iniziative di recupero della situazione.

Iscriviti al canale Telegram

In una società altamente produttiva e in modo crescente anziana, che continua però ad avere (o pretende di avere) nell’alto livello di preparazione e conoscenza un suo dato fondamentale, la coincidenza sostanziale delle tendenze evidenziate con dati già presenti e dibattuti ha fatto scattare l’allarme. E con esso un processo di ascolto della società civile per riscontri e proposte.   Diversi parlamentari hanno sollevato interrogazioni dopo la diffusione dello studio, sollecitando dal ministero dell’Istruzione risposte su come garantire un necessario livello di educazione e preparazione ai singaporeani nelle varie età. E, al contempo, quali possano essere le ripercussioni della situazione evidenziata riguardo l’accesso al lavoro degli ultra-35enni.   Una situazione che chiama in causa, come ha sottolineato il ministro in carica Chan Chun Sing, l’uso intensivo della tecnologia applicata ai processi informativi che allontana in modo crescente dalla necessità di scritture complesse a favore di una comunicazione più breve e immediata sui social media. «Mentre con l’IA va diventando prevalente l’outsourcing cognitivo, si corre il rischio di erosione di di un pensiero e riflessioni più profondi» ha dichiarato.   I rischi di questa atrofizzazione sono evidenti, ancor più in una realtà come quella locale che richiede alte competenze, tempi rapidi di adattamento e produttività. I rischi, ha sottolineato ancora il ministro Chan, non sono solo quelli legati a minori quantità di conoscenze e minore capacità di esprimerle nel contesto sociale. Le conseguenze, infatti, potrebbero essere pesanti per la competitività del sistema-Paese aumentando il tasso di occupazione, riducendo il numero di aziende disposte a investire su forza lavoro qualificata, riducendo la consistenza dei salari e quindi il benessere dei lavoratori.   Invitiamo i lettori di Renovatio 21 a sostenere con una donazione AsiaNews e le sue campagne. Renovatio 21 offre questo articolo per dare una informazione a 360º. Ricordiamo che non tutto ciò che viene pubblicato sul sito di Renovatio 21 corrisponde alle nostre posizioni.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
     
Continua a leggere

Più popolari