El físico y escritor Agustín Fernándz Mallo
Lletres

Agustín Fernández Mallo: “La IA està aconseguint fer-nos més ximples”

'L'àngel de la intel·ligència artificial', l'últim llibre d'Agustín Fernández Mallo que proposa un nou marc conceptual per pensar la IA, el punt de partida del qual és la necessitat de l'ésser humà de crear

També: Katixa Agirre: “La dreta espanyola segueix mantenint una relació dubtosa amb la democràcia”

Llegir en Català
Publicada

Poeta, així li agrada definir-se a Agustín Fernández Mallo, perquè “tots els meus textos tenen com a origen un nucli poètic, una idea metafòrica”. L'àngel de la intel·ligència artificial (Galaxia Gutenberg) és el seu últim treball, una indagació assagística entorn de la IA a partir de la teologia, l'antropologia, la física i la metafísica.

Portada de 'L'àngel de la Intel·ligència Artificial'

Portada de 'L'àngel de la Intel·ligència Artificial' Galaxia Gutenberg

D'aquesta manera, Fernández Mallo ens proposa un nou marc conceptual per pensar la IA i les seves conseqüències, un nou marc el punt de partida del qual és la necessitat de l'ésser humà de crear, des dels seus orígens, instàncies i éssers que els superin i als quals confiar-se.

El escritor Juanpe Sánchz López

“La creació d'una IA és un somni que porta amb nosaltres des que som sapiens, i que la seva manifestació més clara es dóna en les religions, veritables IA primitives”, escriu en el seu assaig. Per tant, no estem davant de res radicalment nou?

No, perquè, a la base de tot sempre hi ha estat i hi és el desig de crear un ésser que ens superi i cap al qual projectar tot el que no sabem fer, el que no podem fer o totes les nostres aspiracions per trobar-ho en ell. Aquesta és la base de la creació dels déus, de qualsevol tipus de divinitat. D'aquí que digui, en part entre cometes, que les primeres intel·ligències artificials són les religions, que no deixen de ser estructures gairebé algorítmiques, és a dir, no deixen d'estructurar-se entorn d'una sèrie d'instruccions.

I un algoritme és justament això, una seqüència d'instruccions per arribar a un fi. Una recepta de cuina és un algoritme, per exemple. És més que evident que les religions tenen els seus manaments i els seus mandats; tenen una sèrie d'instruccions que indiquen als seus fidels la manera en què s'ha d'operar.

Com els estats.

Per descomptat. Els estats són el primer sistema algorítmic l'objectiu del qual és manejar una població. Una societat no pot organitzar-se sense vigilància i sense una sèrie d'ordenacions mitjançant les quals qui té el poder de decidir pot prendre decisions per a la població. Per això és essencial fer mitjanes aritmètiques i regressions estadístiques, perquè, per posar un exemple, el que importa no és quant mesures tu o quant mesuro jo, el que importa és el que mesura el ciutadà mitjà a l'hora de definir, entre altres coses, l'alçada dels autobusos.

És un exemple simple, però reflecteix la importància de l'estadística i no oblidem que la paraula “estadística” i la paraula “estat” tenen la mateixa arrel. No només, etimològicament parlant, “estadística” significa “ordenació de l'Estat”. Aquest és el seu origen. Posteriorment, es va convertir en una branca de la matemàtica.

Per tant, els Estats són una mena de maquinàries algorítmiques i són, així mateix, quelcom que ens supera i quelcom que construïm perquè teòricament ens solucioni els problemes, com fem amb les divinitats, però en un pla humà. D'aquí que faci èmfasi en què aquesta pulsió de crear quelcom que ens superi i ens solucioni és una pulsió antropològica.

Per això, vostè recorre a la figura de l'àngel caigut per definir la IA.

El cervell humà necessita 15 watts de potència per funcionar, és a dir, li basten els watts d'una simple bombeta per fer-ho tot. No obstant això, almenys quan vaig començar a escriure el llibre fa tres anys, el chatgpt per contestar el que et contesta, necessita una energia equivalent a una sala de 10.000 habitants. Davant d'aquesta dada jo m'adono que amb la IA no estem fent una rèplica del cervell humà; en realitat, anem en la direcció contrària: Estem fent una màquina que és molt poc eficient, perquè no hi haurà recursos al planeta Terra per sostenir-la.

A més, treballem en la creació d'aquesta intel·ligència artificial a través de l'algoritme i l'algoritme no té res a veure amb la biologia, que està subjecta, sobretot, a l'error, al soroll, a la diferència. Per tant, què dimonis estem fent? Perquè si no és un cervell humà, a què ens apel·la la figura d'alguna cosa que té voluntat pròpia, però no és humana?

I aquí apareix la imatge dels àngels caiguts, que són figures, presents en totes les religions, que desobeeixen la divinitat i cauen entre els humans, guanyant en voluntat pròpia, però condemnats eternament a l'exili. I les intel·ligències artificials són l'enèsima versió d'aquests àngels caiguts…

El escritor Gabriel Rosso

Amb la diferència, però, que la IA no posseeix aquesta voluntat pròpia que sí tenen els àngels caiguts.

Certain, per això dic que, en realitat, avui la IA és més aviat un àngel de la guarda, està per cuidar-nos, per acompanyar-nos… L'altre dia, un amic m'explicava que fa uns dies li va fer una pregunta a la IA i aquesta li va contestar erròniament. Així que aquest amic li va replicar: “M'estàs mentint”, i la IA li va contestar, “bé sí, t'he mentit”.

Encara tenen una innocència que no és pròpia de l'àngel caigut. Admeten la mentida i et demanen perdó, però després, amb variacions, repeteixen el mateix. Això és el que fan les IA ara. No obstant això, en realitat, la IA no menteix, mentir és una altra cosa, és quelcom molt més complex que només els humans podem fer.

I, de fet, a aquest amic, la IA va acabar dient-li que no estava preparada per no contestar. Això és molt interessant, vol dir que la IA no està preparada pel silenci, perquè el silenci forma part de la intel·ligència humana.

El silenci és una forma de llenguatge que la IA no contempla.

I expressa una forma d'intel·ligència molt complexa, aquella que, per exemple, et fa guardar silenci, quan algú t'interpel·la sobre alguna cosa que desconeixes. Calles per aprendre. Perquè la intel·ligència és precisament això: el camí per arribar a les coses, al coneixement. La IA contesta sempre i, per tant, no aprèn en el sentit humà, només repeteix consignes a partir de combinacions de dades.

Per això, la IA no recorre a la metàfora, que per a vostè és l'expressió més elevada de la complexitat del llenguatge.

La IA no pot entendre la metàfora perquè aquesta sorgeix d'un llenguatge complex. I el llenguatge complex sorgeix de la nostra condició de sabem-nos mortals. Tu i jo sabem que ens morirem algun dia; però, un gos, un gat, un arbre i una IA no ho saben. En el cas de la IA, a més, cal dir que ella és potencialment immortal: sempre que tingui energia i dades, viurà eternament.

Tu i jo sabem que ens morirem, per molts aliments que mengem i que són la nostra energia i per molts llibres que llegim i que són les nostres dades. Aquesta autoconsciència que tenim sobre la nostra mortalitat és el que ens fa crear tot el que creem. Creem, ja sigui en art o ciència, perquè volem transcendir-nos, perquè sabem que el nostre temps és finit i volem no només aprofitar-lo, sinó deixar alguna cosa. Per això, entre altres coses, escrivim llibres, per això no som com aquells personatges de Borges que són immortals i que, precisament per ser-ho i no tenir consciència de finitud, no fan res, no creen res.

I entre les coses que creem hi ha els records.

Perquè el que ens separa de la IA és tenir memòria. La IA té dades, és una mena d'enciclopèdia, mentre que tu i jo construïm la memòria, la construïm des del present i no té res a veure amb les dades, perquè la memòria és un relat que ens construïm i, per tant, no transcriu els fets tal com van ser exactament, és a dir, no es conforma de dades i fets verificables.

Tu tindràs una memòria, per exemple, d'aquesta conversa que molt probablement no coincidirà amb la memòria que jo tingui, perquè tu parteixes d'unes dades i jo d'unes altres. La memòria es crea des del lliure albir.

La memòria, que és un mecanisme de creació, és subjectiva des del moment en què no hi ha dues subjectivitats iguals.

Absolutament. L'art és això: una subjectivitat que crea a través de diferents memòries. Una IA no pot fer això, sobretot, perquè no té aquesta pulsió de finitud i, com deia abans, no té conseqüentment un llenguatge complex.

I són així les IA per molt que nosaltres les antropomorfitzem, els donem forma i actituds humanes. Antropomorfitzem la IA, perquè l'ésser humà ho antropomorfitza absolutament tot. El risc que correm és de acabar convertint les IA en subjectes de dret.

Fotografía de Laura Sanz Corada

I això implicaria, com vostè mateix assenyala, que desendollar una IA es consideri un homicidi.

És així i podríem arribar a això. Jo tinc 59 anys. Quan jo era petit, ningú es plantejava que els animals poguessin tenir drets. Avui en tenen. Tu no pots maltractar un gat o un gos. El que passa és que ni el gat ni el gos són una amenaça per a nosaltres; ells, com qualsevol altre animal, no ens perjudiquen en absolut. La IA pot perjudicar-nos, sobretot si la dotes de drets.

Si deixes anar les IA, aquestes poden convertir-se en veritables exèrcits de petits bots o de codis que poden acabar amb nosaltres de la mateixa manera que ho poden fer les armes biològiques. Per això, ha d'haver-hi una regulació sí o sí. Les tecnològiques parlen d'aquesta qüestió, però no assumeixen responsabilitats; diuen que les IA adquireixen autonomia pròpia. Per això, és essencial una coerció real per part dels estats a les tecnològiques.

En aquest sentit, jo sóc xinès, és a dir, si vostè farà un greu perjudici, tindrà un càstig. En temes de IA els estats han de ser coercitius, no poden fiar-ho tot a l'educació, sobretot, perquè l'educació triga a donar resultats. No n'hi ha prou només amb educar, cal posar mesures coercitives: ho vam veure amb els accidents de trànsit, van baixar quan va aparèixer el carnet per punts i es van incrementar les penes.

El terrible és que la IA està substituint l'estudi: molts estudiants ja no fan els treballs, recorren a la IA perquè els faci per ells.

Això és resultat del que podríem definir com l'externalització total del cervell i del cos: La gent ja no sap fer un pollastre al forn o un peix a la planxa perquè el compra fet i li porta Glovo. Per la seva banda, els alumnes ja no fan els treballs de casa. Teclegen els enunciats i una IA els ho fa en segons. Els alumnes ja no s'equivoquen, ja ni assagen ni investiguen per si mateixos.

No oblidem que educar és ensenyar a pensar, però amb la IA ja no es pensa, perquè la IA pensa per tu. Per això, assenyalo que el que està aconseguint la IA és fer-nos més ximples. Sobretot, perquè ho estem externalitzant tot a un aparell, que és molt potent per a algunes coses, però no per a altres; a un aparell que hem acabat definint com a intel·ligent, però què entenem per intel·ligència?

Se'ns diu que la IA ha resolt un dels set problemes matemàtics del mil·lenni, això vol dir que és més intel·ligent que tu, que m'estàs fent aquesta entrevista? En absolut. Perquè la intel·ligència humana és quelcom molt més ampli que conjugar una sèrie de dades, la intel·ligència humana té a veure també amb el dia a dia, amb el gestionar la vida i les relacions.

En aquest sentit, la IA estaria més a prop de la intel·ligència humana si pogués ser analfabeta.

És a dir, la intel·ligència va més enllà dels coneixements reglats.

Hi ha hagut i pot haver en aquest planeta persones que siguin analfabetes, principalment perquè no han pogut aprendre a llegir i a escriure, però el fet que siguin analfabetes les fa menys intel·ligents que tu i jo? De cap manera.

Pensem, per exemple, en una comunitat de les muntanyes del Nepal, que amb prou feines ha tingut contacte amb nosaltres i un sistema simbòlic complexíssim que nosaltres no entenem. La intel·ligència artificial que estem fent emula aquests cervells?

Evidentment no, però això implica que aquestes persones no siguin intel·ligents? De quina barbaritat estem parlant? És clar que són intel·ligents, potser, fins i tot més que nosaltres, però la seva intel·ligència és d'un altre tipus.

La qüestió és que la IA té com a referent una intel·ligència i un coneixement occidental.

Totalment i té el seu origen en un plantejament cartesià: solucionar problemes a través del càlcul. No obstant això, tots nosaltres resolem centenars de problemes diàriament, amb els fills, amb la parella, amb els companys, amb la feina… a través de la intuïció.

És a dir, a través del que s'anomena pensament abductiu, que no és ni el deductiu ni l'inductiu, un pensament que no pot ser programat i que funciona entre l'error i l'encert. I aquí apareix el que és interessant: l'error, que és quelcom que no es pot programar i, per tant, que no pot contemplar la IA com a recurs.

Fotografía de Violeta Niebla

I l'error està a la base de la creació. De fet, les grans obres d'art -literàries, pictòriques, fotogràfiques- neixen de l'error o, almenys, de la imperfecció.

Això té a veure amb quelcom que ja plantejava a Teoria general de la brossa: es crea des dels residus i des de l'error que acaben configurant-se com quelcom positiu. En la presentació de Barcelona vaig posar, al respecte, aquest exemple: Estic a casa meva i em cuino un ou ferrat.

Portada de 'Teoria general de la brossa'

Portada de 'Teoria general de la brossa' Galaxia Gutenberg

Aquest es trenca, em surt malament, perquè no he sabut fer-lo i, no obstant això, en aquest ou ferrat mal fet hi trobo una idea o una imatge per, potser, escriure un poema o una altra cosa. És a dir, la creativitat està en la capacitat d'extreure una línia a partir d'un error.

Això és la creació, un deliri controlat que et permet fer quelcom nou a partir d'alguna cosa que ha sortit malament. Això la IA no ho sap ni ho pot fer: si la IA s'adona que ha fet malament un ou ferrat, ho tornarà a fer fins que li surti bé, però no aprofitarà l'error.

A propòsit de línies i d'ous ferrats —imatge inicial del seu assaig Postpoesia—, volia preguntar-li de quina manera totes les seves indagacions literari-teòriques estan connectades. Dit d'una altra manera, en aquest últim assaig sobre la IA trobem elements que ja eren en els seus primers poemes.

Per mi, tot el que faig és poesia. Entenc que calgui parlar d'assaig, de novel·la o poema, perquè la indústria necessita una estructuració, però entenc la meva obra com a poemes amb la màscara de l'assaig o poemes amb la màscara de la novel·la. El que vull dir amb això és que el nucli de tota la meva escriptura és un nucli poètic; el punt de partida són idees metafòriques.

Portada de 'Postpoesia. Cap a un nou paradigma.'

Portada de 'Postpoesia. Cap a un nou paradigma.' Anagrama

Escric amb una sèrie d'horitzons als quals em dirigeixo i que, en el seu origen, s'articulen en al·legories poc controlades. Dit això, pel que fa a l'assaig, quan escric, m'atenc al que diu la paraula: escric assajant, és a dir, amb la idea clara que mai arribaré a una resposta definitiva.

Ara moltíssima gent acadèmica s'ha posat a fer assaig, però la majoria el que aconsegueix és fer tesis doctorals camuflades: canvien una mica el llenguatge de tal manera que el text sigui més divulgatiu, però s'oblida que, a diferència d'una tesi, l'assaig no vol demostrar res en concret.