Els assistents conversacionals basats en intel·ligència artificial s'han convertit en una eina habitual per resoldre dubtes quotidians, també en qüestions relacionades amb les finances personals. La seva capacitat per processar informació i oferir respostes immediates resulta atractiva per a milions d'usuaris que busquen consells sobre estalvi, inversió o fiscalitat.
Tanmateix, aquesta rapidesa pot generar una falsa sensació de seguretat. Els experts recorden que eines com ChatGPT encara presenten limitacions importants, i que utilitzar-les com a única font abans de prendre decisions econòmiques rellevants pot acabar tenint conseqüències greus. Organismes i especialistes en regulació tecnològica fa temps que alerten sobre els riscos de privacitat, transparència i fiabilitat associats a aquests sistemes.
Respostes convincents, encara que siguin errònies
Un dels principals problemes és la capacitat dels chatbots per oferir respostes amb un to extremadament convincent. Encara que els models actuals han reduït les anomenades 'al·lucinacions', encara poden inventar dades, barrejar conceptes o presentar conclusions incorrectes com si fossin completament fiables.
El perill augmenta quan l'usuari no té coneixements financers suficients per detectar els errors. Una manera senzilla de posar a prova la fiabilitat del sistema consisteix a demanar al mateix chatbot que revisi o qüestioni la resposta anterior. Aquest exercici no elimina el risc, però sí ajuda a mantenir una actitud més crítica davant recomanacions aparentment impecables.
El biaix de donar sempre la raó
Un altre problema menys visible és l'anomenat 'biaix de complaença'. Els assistents conversacionals estan dissenyats per resultar útils i agradables, cosa que sovint es tradueix en validar les idees de l'usuari en lloc de qüestionar-les. En matèria financera, això pot ser especialment perillós.
Un assessor professional té l'obligació d'assenyalar riscos, detectar errors i advertir sobre decisions impulsives. Un chatbot, en canvi, tendirà a reforçar la hipòtesi inicial de l'usuari. Si algú pregunta si una inversió arriscada sembla bona idea, és freqüent que la IA trobi arguments per justificar-la, fins i tot quan existeixen senyals clares de perill.
La privacitat continua sent un problema
Per obtenir recomanacions realment personalitzades, molts usuaris acaben compartint informació molt sensible: ingressos, patrimoni, deutes o plans d'inversió. El problema és que aquestes dades poden quedar exposades a riscos de privacitat i seguretat.
L'Agència Espanyola de Protecció de Dades recomana comprovar sempre com s'emmagatzemen i utilitzen les converses mantingudes amb chatbots d'IA. A més, diferents estudis recents han advertit de filtracions i problemes d'accés a converses privades en plataformes d'intel·ligència artificial.
Ningú respon si el consell surt malament
Existeix a més una diferència fonamental entre un assessor financer i un chatbot: la responsabilitat legal. Els professionals del sector financer estan sotmesos a regulació, han de complir obligacions fiduciàries i poden enfrontar-se a sancions o reclamacions si actuen de manera negligent.
Amb la intel·ligència artificial això no passa. Les eines conversacionals no assumeixen responsabilitats sobre les pèrdues econòmiques que puguin provocar les seves respostes. Diversos experts en regulació tecnològica insisteixen que la IA encara planteja desafiaments importants en termes de supervisió, transparència i rendició de comptes.
Un suport útil, però no un substitut
Els chatbots poden resultar útils per resoldre dubtes bàsics, comparar conceptes o preparar preguntes abans d'acudir a un especialista. El problema apareix quan l'usuari converteix aquestes respostes en una veritat absoluta i deixa de contrastar la informació amb professionals qualificats.
L'intel·ligència artificial continuarà guanyant presència en l'àmbit financer durant els pròxims anys, però encara està lluny de substituir el criteri humà. Les al·lucinacions, la complaença, els riscos de privacitat i l'absència de responsabilitat legal obliguen a utilitzar aquestes eines amb cautela. Quan els diners estan en joc, l'última paraula hauria de continuar en mans d'un professional.