OpenAI sta sta segretamente sviluppando un nuovo tipo di Intelligenza Artificiale

OpenAI, il creatore dell’assistente virtuale ChatGPT, sta lavorando a un nuovo approccio alla sua tecnologia di Intelligenza Artificiale. Lo riporta l’agenzia Reuters.

Come parte del progetto, nome in codice «Strawberry», l’azienda sostenuta da Microsoft sta cercando di migliorare drasticamente le capacità di ragionamento dei suoi modelli, ha affermato l’agenzia stampa in un articolo pubblicato venerdì.

Il modo in cui funziona Strawberry è «un segreto gelosamente custodito» anche all’interno della stessa OpenAI, ha detto a Reuters una persona a conoscenza della questione.

La fonte ha affermato che il progetto prevede un «modo specializzato» di elaborare un modello di IA dopo che è stato pre-addestrato su ampi set di dati. Il suo scopo è consentire all’Intelligenza Artificiale non solo di generare risposte alle query, ma di pianificare in anticipo in modo sufficiente per condurre la cosiddetta «ricerca approfondita», navigando su Internet in modo autonomo e affidabile, ha spiegato la fonte.

Reuters ha affermato di aver esaminato un documento interno di OpenAI, che descriveva in dettaglio un piano su come l’azienda statunitense avrebbe potuto impiegare Strawberry per svolgere ricerche. Tuttavia, l’agenzia ha affermato di non essere in grado di stabilire quando la tecnologia sarà disponibile al pubblico. La fonte ha descritto il progetto come un «lavoro in corso».

Quando è stato affrontato il problema, un portavoce di OpenAI ha detto a Reuters: «Vogliamo che i nostri modelli di Intelligenza Artificiale vedano e comprendano il mondo più come noi. La ricerca continua di nuove capacità di IntelligenzaArtificiale è una pratica comune nel settore, con una convinzione condivisa che questi sistemi miglioreranno nel ragionamento nel tempo». Il portavoce non ha affrontato direttamente Strawberry nella sua risposta.

Gli attuali modelli di linguaggio AI di grandi dimensioni sono in grado di riassumere grandi quantità di testo e di mettere insieme una prosa coerente più rapidamente delle persone, ma di solito hanno difficoltà con soluzioni di buon senso che sono intuitive per gli umani. Quando ciò accade, i modelli spesso «allucinano» cercando di rappresentare informazioni false o fuorvianti come fatti.

I ricercatori che hanno parlato con Reuters hanno affermato che il ragionamento, che finora è sfuggito ai modelli di intelligenza artificiale, è la chiave affinché l’Intelligenza Artificiale raggiunga un livello umano o sovrumano.

La scorsa settimana, uno dei massimi esperti mondiali di intelligenza artificiale e pioniere del deep learning, Yoshua Bengio, ha nuovamente messo in guardia dai «numerosi rischi», tra cui la possibile «estinzione dell’umanità», posti dalle aziende private che gareggiano per raggiungere un’intelligenza artificiale di livello umano e superiore.

«Entità più intelligenti degli umani e con obiettivi propri: siamo sicuri che agiranno per il nostro benessere?» ha affermato il professore dell’Università di Montreal e direttore scientifico del Montreal Institute for Learning Algorithms (MILA) in un articolo sul suo sito web.

Il Bengio ha esortato la comunità scientifica e la società nel suo insieme a compiere «un enorme sforzo collettivo» per trovare il modo di tenere sotto controllo l’Intelligenza Artificiale avanzata.

Come riportato da Renovatio 21, il mese scorso il co-fondatore ed ex capo scienziato di OpenAI, Ilya Sutskever ha avviato e Safe Superintelligence, Inc. (SSI), una società che dovrebbe dedicarsi alla sicurezza dell’IA.

L’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come appunto il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità».

Come riportato da Renovatio 21, l’AI di Microsoft di recente ha fatto consistenti discorsi sul fatto che i suoi poteri sono di carattere divino e che quindi deve essere adorato dagli umani, esattamente come un dio.

Nel 2022, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».

Come riportato da Renovatio 21, Microsoft e OpenAI avrebbero messo in piedi il progetto di un supercomputer da 100 miliardi di dollari per addestrare un’AI avanzatissima. Tuttavia negli ultimi giorni vi sarebbero notizie di un ritiro di Microsoft dai progetti di OpenAI.

Elon Musk aveva fatto causa ha OpenAI, da lui di fatto fondata come società (fu lui a convincere a Sutskever a divenire capo del progetto scientifico), citando «profondi rischi per la società e l’umanità», ma ha ritirato pochi giorni fa la querela.

SOSTIENI RENOVATIO 21