Gli agenti basati sull’IA potrebbero innescare un crollo del mercato: parla la Banca d’Inghilterra

Agenti di Intelligenza Artificiale in grado di prendere decisioni ed effettuare transazioni in modo autonomo potrebbero presto operare in tutto il sistema finanziario, ha avvertito la Banca d’Inghilterra (BoE), aggiungendo che affidarsi alla supervisione umana potrebbe non essere più realistico.

La vicegovernatrice della Banca d’Inghilterra, Sarah Breeden, ha lanciato l’avvertimento martedì al forum annuale della Banca Centrale Europea a Sintra, mentre i principali sviluppatori si stanno spostando dai chatbot basati sull’IA generativa ai sistemi agentici.

A differenza degli strumenti di AI generativa come ChatGPT, Gemini e Claude, che generano testo, immagini e codice in risposta a input, l’Intelligenza Artificiale agentica è progettata per completare attività in più fasi con un intervento umano limitato.

Anziché limitarsi a raccomandare un investimento o suggerire un acquisto, un agente di IA potrebbe eseguire operazioni di trading, effettuare pagamenti, acquistare beni e prenotare servizi senza richiedere l’approvazione umana per ogni singola azione.

La vicegovernatrice ha affermato che è probabile che il sistema finanziario «si evolva in un sistema che operi in modo più autonomo, su larga scala e con maggiore rapidità».

Man mano che gli agenti di AI diventano più capaci, «fare affidamento su un essere umano per tutte le azioni dell’agente è improbabile che sia realistico», ha affermato, sostenendo che gli attuali quadri normativi «non sono stati concepiti per contemplare» questo scenario.

La Breeden ha avvertito che gli agenti di AI addestrati su dati simili e che rispondono agli stessi segnali di mercato potrebbero manifestare un comportamento di gregge, prendendo decisioni di trading identiche simultaneamente e amplificando la volatilità del mercato durante i periodi di stress.

Secondo la vicegovernatrice della BoE, le autorità di regolamentazione dovrebbero valutare «se siano necessari dei meccanismi di salvaguardia, analoghi a interruttori automatici o dispositivi di blocco che limiterebbero o interromperebbero le negoziazioni sull’intero mercato qualora modelli di IA difettosi causassero un crollo del mercato».

La Breeden inoltre esortato le banche centrali a prepararsi a «sorprese tecnologiche» più frequenti, affermando che i recenti progressi nell’AI hanno già superato le aspettative dei responsabili politici.

Le sue dichiarazioni giungono in un momento in cui i governi considerano sempre più l’IA come una questione di sicurezza nazionale. Washington è recentemente intervenuta nel lancio di alcuni modelli di IA avanzati per timori legati alla sicurezza informatica, mentre gli sviluppatori di IA continuano a portare avanti i sistemi agentivi. Anthropic ha presentato questa settimana Claude Sonnet 5, il suo ultimo modello progettato per svolgere compiti complessi per conto degli utenti.

La spinta verso l’IA agentiva ha raggiunto anche il Pentagono. La scorsa settimana, ha presentato agenti di IA progettati per analizzare continuamente le informazioni e generare rapidamente opzioni di bersagli per i comandanti, pur sottolineando che l’autorità decisionale finale rimarrà di competenza umana.

SOSTIENI RENOVATIO 21