La Securities and Exchange Commission (SEC) degli Stati Uniti ha espresso preoccupazione per l’impatto dell’IA generativa sui mercati finanziari.
In un discorso consegnato lunedì al National Press Club, il presidente della SEC Gary Gensler ha affermato che i recenti progressi nell’IA generativa aumentano la possibilità che le istituzioni facciano affidamento sullo stesso sottoinsieme di informazioni per prendere decisioni.
Gensler ha affermato che la grande domanda di dati e potenza di calcolo potrebbe significare che solo poche piattaforme tecnologiche potrebbero dominare il campo, restringendo il campo dei modelli di Intelligenza Artificiale che le aziende possono utilizzare. Se un modello fornisce informazioni imprecise o irrilevanti, le istituzioni finanziarie possono finire per utilizzare gli stessi dati errati e prendere le stesse decisioni sbagliate, creando il rischio di qualcosa come la crisi finanziaria del 2008, in cui le banche hanno giocato a “seguire il leader” sulla base delle informazioni del credito valutatori. Gensler ha paragonato la potenziale ricaduta a qualcosa come la crisi del 2008, che ha dimostrato i rischi di un “set di dati o modello centralizzato” nella Finanza.
“L’intelligenza artificiale può aumentare la fragilità finanziaria in quanto potrebbe promuovere la pastorizia con singoli attori che prendono decisioni simili perché ricevono lo stesso segnale da un modello di base o da un aggregatore di dati”, ha affermato Gensler. Ha aggiunto che l’ascesa dell’IA generativa e di altri modelli di apprendimento profondo “potrebbe esacerbare l’intrinseca interconnessione di rete del sistema finanziario globale”.
Il settore finanziario utilizza i sistemi di intelligenza artificiale da molto tempo. Alcune compagnie assicurative e creditori implementano algoritmi e l’elaborazione del linguaggio naturale per analizzare i dati finanziari prima di decidere gli importi del prestito. Le società commerciali si sono affidate all’intelligenza artificiale per verificare la presenza di frodi e controllare i segnali di mercato molto più velocemente degli umani che guardano lo schermo di un computer.
Qui, Gensler si è concentrato su modelli di linguaggio di grandi dimensioni, definendo l’IA generativa e gli LLM la “Tecnologia più trasformativa del nostro tempo”. Il suo discorso a volte ha confuso questo con la categoria più generale della tecnologia AI, sebbene questi sistemi non presentino tutti gli stessi rischi e domande. Gensler ha anche osservato che l’IA generativa non è ancora ampiamente utilizzata nella finanza.
Questa non è la prima volta che Gensler lancia l’allarme sull’impatto dell’intelligenza artificiale sui mercati finanziari. Mentre era ancora al MIT, Gensler e la coautrice Lily Bailey ha scritto un articolo esplorare come le attuali strutture normative non possano affrontare i problemi derivanti dall’utilizzo dell’IA nella finanza.
Né la regolamentazione dell’IA è un argomento nuovo per la SEC. Nel 2018 l’agenzia ha istituito FinHub, un centro di risorse creato per rispondere a domande su intelligenza artificiale, Criptovalute e altre questioni relative al fintech. Ha perseguito attivamente casi contro aziende di tecnologia emergente che ritiene abbiano violato la legge, in spazio.
La stessa SEC utilizza anche l’apprendimento automatico per aiutare la sorveglianza del mercato a far rispettare le sue politiche.
Gensler ha affermato che le attuali linee guida sulla gestione del rischio devono essere aggiornate per stare al passo con la nuova e potente tecnologia, ma ha notato che potrebbe essere necessario un ripensamento a livello di settore finanziario su come utilizzarla.