La petició de Carissa Véliz: ser imprevisibles en contra del determinisme de la IA
La filòsofa, autora de ‘Profecía’, clama contra el perill incipient: la vigilància per decretar, mitjançant algoritmes predictius, el que se’ns permetrà ser
També: Miquel Seguró: “El neoliberalisme és com una bicicleta estàtica, com més pedaleges, menys avances”
El perill és real, latent. Carissa Vélez ho sap bé. La filòsofa és una de les veus més lúcides, crítiques i urgents en el debat internacional sobre tecnologia, poder i drets civils.
De triple nacionalitat —mexicana, espanyola i britànica—, Vélez és professora associada de Filosofia a l'Institute for Ethics in AI i és membre del Hertford College de la Universitat d'Oxford.
Després de trencar el panorama global amb el seu enorme Privacitat és poder (escollit llibre de l'any per The Economist el 2020), on va disseccionar l'economia de la vigilància de dades, la seva investigació fa ara un pas indispensable cap al nucli de la Intel·ligència Artificial. Vélez no teoritza des d'una torre d'ivori. Es mulla com a assessora dels governs del Regne Unit i Espanya, col·labora amb la Comissió Europea i forma part del comitè Women 4 Ethical AI de la UNESCO.
El seu nou treball interpel·la el ciutadà que desitja activar-se i que veu amb molta preocupació el futur més immediat. A Profecía: Lliçons sobre l'ús i abús de la predicció, des dels antics oracles fins a la IA (Debate, 2026), la filòsofa amplia el seu camp de batalla: ja no només ens vigilen per saber qui som, sinó per decretar, mitjançant algoritmes predictius, qui se’ns permetrà ser. Alarma vermella.
Què ens explica la seva investigació? Al llarg de la història, la humanitat ha viscut obsessionada amb dissoldre la boira del demà. Des de les entranyes d'animals examinades pels arúspices romans i el fum sagrat de l'Oracle de Delfos, fins als horòscops moderns.
Portada del llibre de Carissa Véliz
Predir el futur ha estat el bàlsam definitiu contra l'ansietat de l'existència. Tanmateix, a Profecía, Carissa Vélez traça una línia de continuïtat històrica que podem qualificar de brillant i d'esfereïdora alhora. I és que els nous sumes sacerdots ja no vesteixen túniques ni interpreten el vol dels ocells. El que fan és programar algoritmes d'aprenentatge profund a Silicon Valley.
El pas dels daus a les dades no constitueix una evolució de la saviesa humana, sinó una sofisticació sense precedents dels mecanismes de control social i econòmic.
La tesi de Vélez és contundent: la predicció automatitzada que avui governa les nostres vides —decidint des de la concessió d'un crèdit bancari fins a un perfil laboral, passant per la presó preventiva o l'accés a tractaments mèdics— poques vegades és un acte de coneixement genuí. És, fonamentalment, un exercici de pur poder.
La por s'incrementa. Les pulsacions del lector s'acceleren. El desmuntatge tècnic i històric que Vélez fa de la suposada "infal·libilitat" de la Intel·ligència Artificial és un dels punts més incisius de la seva anàlisi.
Els models predictius contemporanis pateixen d'un vici d'origen ideològic i metodològic. Assumeixen de forma arrogant que el futur serà una còpia exacta del passat. En alimentar els sistemes d'IA exclusivament amb dades històriques, els algoritmes es limiten a detectar patrons de repetició per projectar-los cap endavant.
La filòsofa Carissa Véliz
Quin és el problema? Exagera Vélez? En l'horitzó apareixen dos problemes polítics d'enorme calat. Primer, la canonització del biaix. Si les bases de dades del passat reflecteixen racisme, sexisme o desigualtat socioeconòmica, la màquina "predirà" que certs col·lectius són inherentment menys aptes o més perillosos.
L'algoritme no descobreix cap veritat oculta. El que fa és automatitzar-la i perpetuar les injustícies d'ahir sota una pàtina de suposada neutralitat matemàtica.
L'altra qüestió és la ceguesa davant el ‘cigne negre’. La vida humana i el progrés social es defineixen per la disrupció i el canvi de rumb. Un algoritme mai hauria predit les grans revolucions o els girs existencials de la història, perquè treballa sota la premissa que els éssers humans som patrons estàtics i immutables.
![eduards--000074382_1_Eduardo_Infante_201910020905.jpeg](["https:\/\/a2.elespanol.com\/k\/imgp\/cms\/asociados\/542755.jpg?p=c:865:649:nowe:96:230\/w:320\/h:240&h=R8OFvrvo"])
El perill real, per tant, radica en la naturalesa performativa de la predicció en els afers humans. A diferència del meteoròleg que prediu la pluja sense alterar l'atmosfera, l'algoritme intervé en la realitat.
Quan un sistema financer prediu que un ciutadà d'un barri humil no pagarà un préstec i, per tant, el banc li'l denega, la predicció mateixa provoca el resultat.
En negar-li l'oportunitat, se'l condemna a l'exclusió. La profecia es compleix no per la seva exactitud, sinó perquè el poder financer i tecnològic va intervenir per forçar-ne el compliment.
Zombis morals
Això erosiona d'arrel l'agència humana, la capacitat de prendre decisions lliures i modelar el propi destí. Si el programari decideix per endavant el nostre itinerari vital en funció de la rendibilitat de tercers, l'espai per a l'error redemptor i la reinvenció personal es redueix a zero. Quin tipus de societat es dibuixa aleshores?
Vélez va més enllà, en advertir sobre el perill dels "zombis morals". Les màquines manquen de consciència, empatia i responsabilitat moral. Tanmateix, jutges, metges, directors de recursos humans i governants s'escuden de manera còmoda darrere la pantalla sota el mantra corporatiu de: "És el que diu l'algoritme".
Aquesta delegació de decisions crítiques crea un buit de responsabilitat perillosíssim per a la salut democràtica. Quan la predicció falla --i els sistemes fallen estrepitosament davant la complexitat humana-- no hi ha compassió que matisi la regla, ni una autoritat humana a qui exigir explicacions.
![Entrevista Victoria Camps](["https:\/\/a2.elespanol.com\/k\/imgp\/cms\/asociados\/505306.jpg?p=w:320\/h:240&h=DUi_DaUL"])
Ja més calmats, o no tant, queda la reflexió profunda. El llibre de Vélez no és un manifest luddita. Es tracta d'un advertiment filosòfic i polític de primer ordre, avalat per figures de la talla de la Premi Nobel de la Pau María Ressa o el denunciant de Cambridge Analytica, Christopher Wylie.
Carissa Vélez reivindica en el seu assaig una visió profundament humanista que urgeix a rebel·lar-se contra la dictadura del pronòstic automatitzat.
La democràcia, que s'està debilitant a tot el planeta, ha de tenir molt en compte aquests senyals d'alarma. Per salvar el sistema democràtic --volem realment fer-ho?-- la societat ha d'exigir el dret a ser imprevisible.
La república mai va tornar
El futur ha de continuar sent un territori obert, caòtic i discutible. La seguretat absoluta que promet Silicon Valley a canvi de submissió digital és l'equivalent modern de vendre-li l'ànima a l'oracle.
Es tracta, seguint Vélez, d'un engany que ens desposseeix de la llibertat i de la incertesa que, en última instància, justifiquen la pròpia existència humana.
Si tot està programat, què ens queda?
El que apunta Vélez és que un cop ens llisquem per la pendent serà molt difícil rectificar:
"Que l'astrologia emergís just quan la República romana començava a desmoronar-se no és casualitat. La democràcia i la fe en la predicció són forces incompatibles. Com més angunioses són les nostres circumstàncies, més desitgem saber què ens depararà el futur. Com més consultem els endevins, més desesperada es torna la nostra situació, perquè en dependre de prediccions estem dipositant el nostre poder en els endevins, que aprofiten l'ocasió per augmentar el seu. Un cop es va imposar l'imperi com a forma de govern a Roma, la república mai va tornar".
