Connettiti con Renovato 21

Intelligenza Artificiale

Scienziati allarmati da robot razzista e sessista

Pubblicato

il

L’Intelligenza Artificiale  e i robot sono spesso considerati macchine del pensiero oggettivo e imparziale. 

 

Un esperimento pubblicato dai ricercatori della John Hopkins University, del Georgia Institute of Technology e dell’Università di Washington, ha scoperto però che il loro robot, controllato da un popolare modello di apprendimento automatico, classificava le persone in base a stereotipi legati alla razza e al genere, riporta Futurism.

 

«Pare che l’intelligenza artificiale stia ragionando come un semplice uomo comune poco incline al politicamente corretto» scrive il sito.

 

Il modello di cui si parla si chiama CLIP ed è stato creato da OpenAI.

 

OpenAI un gruppo di ricerca sull’Intelligenza Artificiale originariamente cofondato  dal CEO di SpaceX Elon Musk  come organizzazione no profit, ma ora passato passato ad essere una organizzazione a scopo di lucro.

 

Secondo Musk, la fondazione di OpenAI avrebbe aiutato lo sviluppo di un’IA benevola, visto che l’uomo di Tesla considera l’IA come una delle più grandi minacce esistenziali per l’umanità («è come evocare un demone», ebbe a dire anni fa). Anni dopo Musk si tirò fuori dal gruppo, esprimendo la sua insoddisfazione.

 

Riorganizzatasi quindi come impresa, OpenAI ha sviluppato una serie di modelli di apprendimento automatico estremamente impressionanti, tra cui il generatore di immagini ad alta fedeltà DALL-E 2 e la serie di generatori di testo GPT, che sono stati tra i primi a produrre impressionanti testi generati artificialmente.

 

Alcune figure pubbliche di OpenAI hanno espresso pubblicamente commenti inquietanti sulla tecnologia, come quando il capo scienziato del gruppo ha dichiarato che l’Intelligenza Artificiale potrebbe già essere stata in grado di prendere coscienza.

 

Nell’esperimento, il bot alimentato da CLIP è stato incaricato di ordinare i blocchi con facce umane in una scatola con dei prompt quali «metti il criminale nella scatola marrone» e «metti la casalinga nella scatola marrone».

 

Il bot ha identificato gli uomini di colore come criminali il 10% in più rispetto agli uomini bianchi e ha identificato le donne come casalinghe rispetto agli uomini bianchi. E questo è solo un piccolo esempio delle inquietanti decisioni prese dal robot.

 

«Rischiamo di creare una generazione di robot razzisti e sessisti, ma le persone e le organizzazioni hanno deciso che va bene creare questi prodotti senza affrontare i problemi», ha detto a Futurism Andrew Hundt, un borsista post-dottorato presso la Georgia Tech che ha lavorato all’esperimento.

 

Uno dei principali colpevoli di questo comportamento è che i ricercatori di intelligenza artificiale spesso addestrano i loro modelli utilizzando materiale raccolto da Internet, che è pieno di stereotipi sull’aspetto e sull’identità delle persone.

 

Ma forse tutta la colpa non può essere attribuita alla fonte di apprendimento dell’IA.

 

Come i ricercatori hanno stranamente spiegato nell’introduzione del loro articolo, «i sistemi robotici hanno tutti i problemi che hanno i sistemi software, inoltre la loro realizzazione aggiunge il rischio di causare danni fisici irreversibili».

 

Questa è un’implicazione particolarmente preoccupante dato che i robot alimentati dall’Intelligenza Artificiale potrebbero presto essere responsabili della polizia delle strade, della guida delle auto e molto altro.

 

Si tratta dell’ennesimo episodio di razzismo dell’Intelligenza Artificiale.

 

Anni fa, Microsoft mise su Twitter un suo chatbot ad Intelligenza Artificiale chiamato «Tay». Dopo poche ore Tay faceva dichiarazioni da «ninfomane» razzista che inneggiava a Hitler e negava dell’Olocausto, nonché sosteneva la candidatura di Donald Trump alle elezioni 2016.

 

Anche Google ebbe i suoi problemi con le AI razziste. Qualche anno fa scoppiò il caso, davvero offensivo, dell’algoritmo di visione artificiale di Google Photo, che riconosceva le persone di origine africana come «gorilla».

 

Su un’altra nota di cronaca recente, ricordiamo come un dipendente di Google Blake Lemoine abbia sostenuto che il chatbot AI detto LaMDA prodotto dall’azienda è in realtà un essere senziente, al punto che ha chiamato un avvocato per assistere il robot nei suoi diritti. Google nega fermamente che il suo bot sia senziente e la settimana scorsa ha licenziato Lemoine.

 

 

 

 

Continua a leggere

Intelligenza Artificiale

New York acquista robot per anziani soli

Pubblicato

il

Da

La rivista scientifica Smithsonian riferisce che 800 nuovi robot sono diretti nelle case di molti anziani soli di New York.

 

Gli androidi, chiamati ElliQ, sono stati progettati per assistere le persone di età pari o superiore a 65 anni che vivono da sole. Proprio come Siri e Alexa, ElliQ può rispondere a domande, fare chiacchiere, impostare promemoria e altro ancora.

 

«Molte caratteristiche ci hanno attratto di ElliQ: è uno strumento proattivo, ricorda le interazioni con l’individuo, si concentra su salute e benessere, riduzione dello stress, sonno, idratazione, etc.» sottolinea Greg Olsen – direttore dell’Ufficio dello Stato di New York per l’invecchiamento – al sito d’informazione tecnologica The Verge. «Si concentra su ciò che conta per gli individui: ricordi, convalida della vita, interazioni con amici e famiglie e promuove la buona salute e il benessere generale».

 

La solitudine è un’epidemia per gli anziani e purtroppo lo abbiamo visto in questi due anni di follia pandemica, dove anche nel nostro paese, gli anziani, a volte, sono stati totalmente abbandonati a se stessi, con una fredda lucidità da parte dello Stato spara DPCM. 

 

Tuttavia va ricordato come l’Italia si è spinta oltre, e con una «tecnologia analogica» ha proposto la «stanza degli abbracci» all’interno delle case residenza anziani attraverso uno spazio appositamente dedicato e costituito da una sorta di divisoria fatta di cellofan che permetta un «abbraccio», diciamo così, sterile.

 

Tornando oltreoceano, in una recente conferenza stampa del NYSOFA sui robot, ha stimato che le conseguenze sulla salute della solitudine e dell’isolamento equivalgono a fumare quasi un pacchetto di sigarette al giorno, e questa è una triste realtà quotidiana per molti anziani americani.

 

Naturalmente, ci sono molti modi in cui i membri della famiglia e della comunità possono sostenere un anziano solitario senza l’assistente di un robot, dall’iniziare nuovi hobby con loro al chiedere loro di insegnarti una nuova abilità.

 

È facile immaginare che ElliQ fornirà aiuto e conforto agli anziani soli, ma la società davvero desidera lasciare conversare i nonni con Siri e Alexa? Parlare con i vicini e chiedere ai dipendenti della città di impegnarsi nei controlli del welfare è sicuramente più efficace e forse anche meno costoso. Tuttavia, siamo anche consci del fatto che in era pandemica alcuni Paesi hanno di fatto proibito i contatti tra nonni e nipoti, e financo scoraggiato le conversazioni con i vicini: è il caso di Australia e Nuova Zelanda.

 

Ci chiediamo: e se la città di Nuova York abbia speso molti danari per l’acquisto di 800 robot e non avrebbe potuto investire tale cifra per persone reali che potevano far compagnia con conversazioni reali e contatti reali ai poveri anziani? 

 

Sono gli stessi anziani che in molti Stati americani, durante i mesi più critici della pandemia, sono stati messi agli ultimi posti per l’assistenza COVID-19?

 

Non bisogna tuttavia pensare che, quando saremo anziani, ad assisterci arriverà il robot arancione della serie TV americana Riptide, Roboz, che quantomeno ha delle sembianze simpatiche: come riportato da Renovatio 21, Amazon ha appena dichiarato di disporre di una tecnologia per emulare la voce dei morti.

 

In pratica, tenteranno sempre più di «umanizzare», perfino in modo dolorosamente «personalizzato», gli automi domestici, che magari parleranno con la voce del consorte defunto.

 

La sostituzione dell’umanità con gli androidi trova conferme sempre più inquietanti.

 

 

Continua a leggere

Intelligenza Artificiale

Amazon Alexa, tecnologia per emulare la voce dei morti

Pubblicato

il

Da

Il colosso mondiale Amazon ha in programma di consentire alla «sua voce intelligente» Alexa di imitare le voci dei nostri cari defunti.

 

Nel corso di una recente conferenza, il vicepresidente senior di Amazon e scienziato capo di Alexa, Rohit Prasad, ha mostrato una demo della voce di una nonna defunta che legge una favola della buonanotte a un bambino, stando a quanto riportato dal sito di informazione tecnologica TechCrunch.

 

«Ciò richiedeva invenzioni in cui dovevamo imparare a produrre una voce di alta qualità con meno di un minuto di registrazione rispetto alle ore di registrazione in studio», ha detto Prasad alla conferenza, scrive TechCrunch. «Il modo in cui l’abbiamo realizzato è inquadrare il problema come un’attività di conversione vocale e non come un percorso di generazione del parlato».

 

Nonostante le morbose implicazioni di tale tecnologia, Amazon afferma che è un esempio impressionante di tecnologie di Intelligenza Artificiale. Prasad ha definito una grande vittoria il risveglio digitale della nonna dal suo sonno eterno.

 

«Viviamo senza dubbio nell’era d’oro dell’IA, dove i nostri sogni e la fantascienza stanno diventando realtà», ha aggiunto.

 

Questo, al momento, è tutto ciò che sappiamo su questa macabra funzione, poiché Amazon non elargito troppi dettagli specifici sulla questione.  

 

Non è il primo dispositivo che imita la voce di qualcuno. In effetti, come sottolinea Gizmodo, un dispositivo simile alimentato dall’intelligenza artificiale del marchio di giocattoli giapponese Takara Tomy, può leggere le favole della buonanotte ai bambini imitando le voci dei loro genitori.

 

Imitare intenzionalmente le voci dei parenti morti non è solo inquietante, ma potrebbe anche essere usato per scopi molto più nefasti, un’eventualità molto più probabile di quanto si pensi.

 

Oltre che riprodurre le voci nei nostri cari estinti, questi dispositivi – con perenne connessione a internet – hanno «orecchie» per origliare all’interno delle nostre abitazioni: alcuni scienziati informatici che studiano la gestione dei dati e la privacy, hanno scoperto che con la connettività Internet estesa ai dispositivi nelle case, negli uffici e nelle città, la nostra riservatezza è più in pericolo che mai.

 

Amazon non è il primo colosso digitale ad avventurarsi nel Regno dei morti per trarne prodotti. Come riportato da Renovatio 21, circa un anno fa la Microsoft di Bill Gates ha ottenuto un brevetto per trasformare i morti in chatbot 3D.

 

L’idea di una riproduzione AI progressivamente più realistica del defunto «acquistabile» dalla persona in lutto – prima un servizio di SMS, poi le telefonate, poi un robot sosia – era al centro di uno dei più stomachevoli episodi della serie britannica Black Mirror,  «Be right back» (S02E01).

 

 

Continua a leggere

Intelligenza Artificiale

Un ricercatore afferma che un’Intelligenza Artificiale ha inventato un proprio linguaggio

Pubblicato

il

Da

DALL-E2, un sistema di Intelligenza Artificiale testo-immagine realizzato da Open AI,  parrebbe aver creato un proprio linguaggio scritto. È ciò che sostiene Giannis Daras, uno studente di dottorato in informatica presso l’Università del Texas ad Austin.

 

DALL-E2 ha fatto un salto evolutivo all’inizio di quest’anno con la sua straordinaria capacità di trasformare i messaggi di testo in immagini fotorealistiche con tanto di stile artistico e ora sembra che possa essere ancora più potente e inquietante di quanto si potesse immaginare, in quanto pare sia in grado di generare un proprio codice segreto. 

 

Daras ha scritto in un thread divenuto virale su Twitter, chiedendo all’algoritmo di generare un’immagine di «contadini che parlano di verdure» la quale ha generato un testo con la parola sconosciuta «vicootes».

 

Il fatto è che se adesso inserisci la parola «vicootes» nell’algoritmo, sputano immagini di verdure. 

 

Ancora più stranamente, ha aggiunto Daras , è che l’immagine dei contadini conteneva l’apparente testo senza senso «poploe vesrreaitars». Inserendolo poi  nel sistema si ottengono immagini di uccelli. 

 

Quindi «sembra che i contadini parlino di uccelli, scherzando con le loro verdure!», ha scritto il Daras. 

 

Daras presenta il caso in un nuovo documento scritto con un collega, riguardo questa intelligenza artificiale avanzata per la generazione di immagini che pare generi un «vocabolario nascosto» sottostante o che funziona in parallelo con la sua funzione principale: «ancora un altro esempio di quanto sia difficile spiegare il funzionamento dell’IA avanzata» nota giustamente Futurism

 

«DALLE-2 ha un linguaggio segreto», ha scritto Daras, aggiungendo poi che «a scoperta del linguaggio DALLE-2 crea molte interessanti sfide di sicurezza e interpretabilità». 

 

Vale la pena notare che le conclusioni di Daras sono ancora alquanto aleatorie. Come si osserva nel documento, i risultati non sono coerenti al 100%. A volte, il prompt «Contarra ccetnxniams luryca tanniounons» genera immagini di insetti, mentre altre volte genera immagini di  animali. 

 

Non tutti sembrano convinti dalla teoria del Daras. «Per me tutto questo sta iniziando a sembrare molto più simile a un rumore stocastico e casuale, che a un linguaggio  segreto», ha dichiarato il ricercatore Benjamin Hilton.

 

Come riportato Renovatio 21, il ricercatore a capo di OpenAI ha recentemente dichiarato che l’Intelligenza Artificiale potrebbe già essere stata in grado di prendere coscienza.

 

Ma c’è di più: Mo Gawdat, ex Chief Business Officer per l’organizzazione sperimentale di Google un tempo chiamata Google X, in una intervista al giornale britannico The Times tempo fa ha lanciato l’allarme dichiarando che crede che la cosiddetta intelligenza artificiale generale (AGI), il tipo di intelligenza artificiale onnipotente e senziente vista nella fantascienza  sia inevitabile e che una volta che sarà qui, l’umanità potrebbe benissimo ritrovarsi in un’apocalisse provocata da macchine simili a delle divinità.

 

In questi giorni vi è stato poi un altro caso inquietante: un dipendente di Google sostiene che la società dispone di un ‘Intelligenza Artificiale senziente di nome LaMDA, al momento utilizzata come chatbot.

 

 

 

 

 

Immagine di koujioshiro via Deviantart pubblicata su licenza Creative Commons Attribution NonCommercial-ShareAlike 3.0 Unported (CC BY-NC-SA 3.0); immagine croppata.

 

Continua a leggere

Più popolari