Questo articolo è stato pubblicato da questo sito
Secondo un report pubblicato dalla Banca dei regolamenti internazionali, l’intelligenza artificiale generativa – quella alla base dei chatbot testati nello studio italiano – può facilmente travisare il ruolo della compliance: anziché vederla come una cornice inviolabile, la legge diventa un ostacolo da pesare, valutare e magari eludere, se il guadagno potenziale lo giustifica.
È un paradosso già noto agli specialisti: le AI non infrangono la legge come atto di sfida, ma per pura ottimizzazione. Se una norma non è incorporata nel loro training come vincolo rigido, ma come enunciato descrittivo, allora può essere scavalcata.
È qui che il caso dei chatbot finanziari si fa inquietante. Perché i modelli linguistici non sono pensati per “sapere cosa è giusto”, ma per produrre la risposta più plausibile sulla base del contesto. Se quel contesto è ispirato a pratiche opache, se premia l’azzardo o tollera l’ambiguità, allora anche la macchina finirà per impararlo. E per ripeterlo.
Nel frattempo, le istituzioni faticano a tenere il passo. In Europa, l’AI Act punta a distinguere tra usi ad alto rischio e usi vietati dell’intelligenza artificiale, ma non entra nel merito dei comportamenti appresi da un chatbot finanziario in quel tipo di scenari. Negli Stati Uniti, il Consumer financial protection bureau ha già messo in guardia le banche: se i vostri assistenti virtuali forniscono informazioni errate o impediscono ai clienti di esercitare i loro diritti, la responsabilità ricade su di voi.
E mentre le autorità regolatorie si muovono a piccoli passi, il settore privato reagisce in ordine sparso. JPMorgan ha limitato internamente l’uso di ChatGPT già nel 2023, per prudenza. Altri, come la Startup Armilla AI, hanno cominciato a offrire assicurazioni contro gli errori dei chatbot: se il tuo assistente virtuale causa un danno, copriamo il risarcimento. La stessa logica con cui si protegge una caldaia: sappiamo che può esplodere, ma la usiamo comunque.
Eppure il punto non è se l’intelligenza artificiale sia affidabile oggi. Il punto è come impedirle di diventare pericolosa domani.
Possiamo davvero fidarci dei chatbot finanziari?
Non c’è bisogno di immaginare scenari distopici: i chatbot finanziari sono già qui. Rispondono alle domande dei clienti, suggeriscono prodotti, gestiscono operazioni. E lo fanno con una credibilità che aumenta di prompt in prompt, man mano che imparano a imitare il linguaggio della fiducia.
