Passa’t al mode estalvi
Selva Orejón
Pensament

Quan la teva cara es converteix en una estafa

"La IA permet utilitzar la credibilitat de personatges públics per enganyar altres persones. Protegir la seva identitat també significa protegir aquells que confien en ells"

Publicada

Que algú hagi de sortir a dir " aquest vídeo no sóc jo " comença a semblar-nos normal. Ho veiem, assentim i seguim amb la nostra vida. Un altre famos al qual li han copiat la cara per vendre alguna cosa. Fins que qui apareix al vídeo és algú en qui confiem i el que recomana sembla una oportunitat raonable. Llavors ja ens costa una mica més veure-ho tan clar.

La suplantació té aquest avantatge, aprofita una confiança que un altre s'ha guanyat. Un actor, una periodista, un esportista. Persones a qui hem escoltat durant anys i la veu de les quals reconeixem sense pensar-hi gaire. Amb intel·ligència artificial es poden fabricar vídeos i àudios que imiten aquesta familiaritat, i utilitzar-la per apropar-nos a una inversió falsa, demanar-nos dades o portar-nos a una conversa privada.

Em preocupa que continuem mirant aquests casos com si fossin una molèstia més de tenir seguidors. Hi ha algú la imatge del qual s'està utilitzant sense permís i hi ha persones que poden perdre els seus estalvis perquè creuen en aquesta imatge. També hi ha un equip al darrere, una família, contractes, explicacions a donar. El famós de l'anunci pot estar intentant esbrinar què ha passat al mateix temps que algú l'acusa d'haver-lo estafat.

El 19 d'octubre, Interpol va llançar una campanya per alertar sobre els fraus amb continguts generats o alterats mitjançant IA. Parla de suplantacions, falses inversions, enganys sentimentals i extorsions. I recorda una cosa que convé tenir present quan veiem aquestes notícies des de la còmoda distància de l'espectador, també poden utilitzar la veu d'un familiar o la d'un company de feina.

Després arriba el comentari de sempre, però com ha pogut caure-hi. Doncs caldria veure com ens en sortim nosaltres amb una petició que sembla venir d'algú conegut, en un mal moment i amb presses. Ens agrada imaginar-nos més llestos que la víctima. És força tranquil·litzador, a més, perquè ens permet continuar fent exactament el mateix.

Aquesta superioritat tampoc ajuda a denunciar. Si a la pèrdua de diners hi afegim la perspectiva que ens ridiculitzin, demanar ajuda es fa més difícil. Podem començar per estalviar-li a qui ha patit una estafa l'interrogatori sobre com d'ingenu ha estat. Ja tindrà prou feina a resoldre-ho.

Els representants i els equips de comunicació haurien d'incorporar aquest assumpte a la seva feina habitual. Igual que revisen una campanya o una col·laboració comercial, necessiten saber què faran si apareix un anunci fals amb la imatge de la persona a qui representen. Qui s'encarregarà de guardar les evidències, de demanar-ne la retirada i d'avisar el públic. Publicar una història dient "compte, m'estan suplantant" pot ser necessari, però no hi ha garantia que la vegin aquells que han rebut l'anunci.

En una empresa passa una cosa semblant. Imaginem que arriba un àudio, aparentment del director, demanant que es resolgui un pagament urgent. Pot qui el rep trucar per comprovar-ho sense que li retreguin estar fent perdre el temps? Aquí hi ha una qüestió de cultura empresarial força més propera que qualsevol debat sobre el futur de la tecnologia. Si exigim obediència immediata i després culpem l'empleat per no haver desconfiat, tenim un problema que mereix revisió.

I hi ha la part que correspon a les plataformes. Quan un frau circula com a publicitat, hauríem de poder saber quins controls s'han aplicat a l'anunciant i què passa amb la denúncia. A la persona suplantada se li demana que localitzi còpies, ompli formularis i torni a explicar el que ha passat. Em sembla raonable exigir que qui distribueix aquests anuncis posi prou recursos per aturar-los.

També convé que qui expliquem aquests assumptes afinem. Un compte fals pot utilitzar fotografies robades sense que hi hagi intervingut la IA. Atribuir-li qualsevol engany serveix per cridar l'atenció, però aporta poc a la investigació i confon qui necessita entendre què li ha passat.

Haurem d'acostumar-nos a comprovar algunes coses que abans donàvem per bones. Una trucada per un canal conegut, una consulta a temps, un pagament que espera fins aclarir un dubte. I acceptar aquesta comprovació quan ens la facin a nosaltres, encara que tinguem pressa o siguem qui mana.

Jo començaria per aquí. Per deixar de considerar una ofensa que algú ens demani confirmar una petició. Ja els hi posem prou fàcil a qui es vol fer passar per nosaltres.