El seu anterior assaig, L'art del saber lleuger. Una breu història de l'excés d'informació, era un dels disset llibres rescatats en aquella cambra fosca que el protagonista de Vila-Matas custodia a Cànon de la cambra fosca. “Al llibre de Xavier Nueno se li pot qualificar de sorprenent «precursor» de la meva biblioteca lleugera de cambra fosca.
Tracta de les transformacions en l’art del saber i, en el fragment que he seleccionat, recomana que no ens deixem portar per l’afany d’augmentar la nostra biblioteca, sinó pel contrari: per la d’alleugerir-la”, llegim a les pàgines de l’escriptor barceloní, pàgines que, quan Xavier Nueno va llegir per primera vegada, el van deixar estupefacte.
“No m’ho podia creure”, reconeix Nueno, tot just dues setmanes després de guanyar el Premi Anagrama amb La revolta dels copistes. Un extraordinari, erudit i estimulant assaig entorn dels processos que, des del segle XIX fins al present, han convertit el coneixement en una mercaderia, en un objecte de lucre.
Portada de l’assaig 'La revolta dels copistes'
Nueno reconstrueix la història de la privatització del saber fins als nostres dies, en què aquesta privatització té com a protagonistes les grans corporacions tecnològiques.
Volia començar preguntant-li sobre les connexions, que evidentment hi ha, entre La revolta dels copistes i el seu anterior assaig, L'art del saber lleuger.
Es podria veure una continuïtat cronològica entre L'art del saber lleuger, que és un llibre que comença al segle XIV i es planteja la pregunta sobre què era i què implicava al segle XIV l’excés d’informació. El llibre parteix de la premissa que l’excés d’informació ha existit sempre, des de l’antic Egipte, des de pràcticament la invenció de l’escriptura.
Portada de l’assaig 'L'art del saber lleuger'
L'art del saber lleuger proposa un recorregut de quatre segles, des del segle XIV fins al segle XVIII, mentre que La revolta dels copistes comença just al segle XIX i arriba fins al present. El que crec que distingeix els dos títols és que els processos de mecanització dels quals es parla en aquest nou assaig són d’una mena nova.
Fins al segle XVIII, la industrialització de les activitats vinculades a l’escriptura era marginal; només a partir del segle XIX, comencem a veure com sorgeix una indústria vorac que extreu del treball d’aquests copistes, que en el fons són gent que es dedica a organitzar i classificar el saber, un benefici econòmic per integrar-lo verticalment i així, després, mecanitzar l’ocupació.
D’aquí que vostè pari atenció a com la mecanització transforma tant els agents de la cultura com també la figura d’autor.
Aquesta és una qüestió molt interessant, sobretot pel que fa als agents d’aquesta història, que anomeno mans invisibles. Aquestes mans invisibles són copistes, estenògrafs, arxivers, bibliotecàries, picaplets... figures que, tradicionalment, han quedat sota el llindar de l’autoria. Quan un autor publicava un llibre, aquestes figures, normalment, no apareixien, excepte en casos excepcionals.
El que passa ara amb la IA és que els autors estan passant per sota del llindar de l’autoria. L’autor, per definició, és qui exerceix el judici, així s’ha definit des de la il·lustració, el que passa és que ara, en quedar aquesta figura per sota del llindar de l’autoria, ens descobreix la història d’aquestes mans invisibles que han fet possible el coneixement.
És inevitable que avui els autors sentim que els enginyers que programen i dissenyen els models de llenguatge ens estan expropiant sistemàticament. I aquesta sensació fa que es desenvolupi una solidaritat amb les mans invisibles, que al llarg de la història van ser invisibilitzades pels autors.
La història de les mans invisibles està associada a la història de la classificació del saber, una història que és de poder. Penso, per exemple, en el conflicte cultural i polític entre el model de classificació soviètic i anglosaxó.
Aquest és un cas que a mi m’interessa molt i, a més, és la matriu de molts dels mals contemporanis a la universitat. El 1948, John Desvon Bernal, que és un científic britànic amb afiliació soviètica i marxista, comença a intuir que el sistema de publicació científica està arribant a la seva màxima capacitat i, per tant, proposa crear un servei públic de publicació. És a dir, proposa una institució que es dediqui a publicar totes les investigacions dels científics sense que existeixin diferents revistes, sense que existeixin jerarquies i rànquings.
Un projecte així, a Anglaterra, és inimaginable. De seguida és titllat de soviètic, és considerat com una eina per planificar i controlar la investigació. I és cert que, en un inici, a Barnal no li desagradava aquesta idea de planificar la ciència, encara que després de la guerra aquesta idea es va matisant. De tota manera, el seu projecte fracassa per la reacció dels científics, si bé, paradoxalment, tres anys després, sorgeix la primera empresa que es dedica a privatitzar la publicació científica.
Xavier Nueno
La funda Robert Maxwell, un tipus que s’adona que els estats gasten molts diners en investigació pública, que els científics no se’n beneficien perquè es considera que la publicació forma part de la seva tasca, mentre que, per contra, les revistes científiques revenen totes les publicacions a les biblioteques per un sobrecost enorme. És a dir, es produeix una transferència brutal de diners públics al sector privat.
I això, en part, segueix passant...
Perquè te’n facis una idea: la revista Nature ha sortit a borsa fa dos anys per 5.000 milions de dòlars. Mentrestant, la universitat està vivint en una precarietat i carestia al·lucinant. És força evident que tenim aquí un exemple d’aquestes transferències brutals de diners públics al sector privat, que es sustenta a partir d’una expropiació de diners i saber públic.
Això té el seu origen als Estats Units del segle XIX, en la publicació de sentències judicials en revistes.
Als Estats Units, la llei és pública, però per accedir-hi has de pagar a certes companyies, que es dediquen a fer que les sentències dels jutges circulin i que la gent les pugui llegir. Hi va haver un primer moment, durant la fundació dels Estats Units, en què es reivindica que la llei hauria de ser la llei del poble i, per tant, hauria de ser accessible a tothom; però, ja el 1870, l’Estat no inverteix prou perquè això sigui possible.
D’aquí que sorgeixin empreses que comencen a integrar verticalment la producció de llibres de llei i sentències. Aquestes empreses són monopolis extraordinaris. Com que tothom utilitza els seus llibres i revistes, tothom acaba escrivint en els seus termes fins al punt que els jutges s’amotllen als seus codis. És una situació pirandel·liana, borgiana: el mapa de la llei substitueix la llei. En altres paraules, en nom d’una sèrie d’interessos econòmics, s’imposa una certa visió del món.
Encara que de manera poc visible. És a dir, el monopoli del saber no sempre és visible.
De fet, diria que el meu assaig és força foucaultià. A Foucault li interessava molt la història de la classificació dels sabers, però en el seu món Foucault, tots els científics tenen una vocació honesta: ells classifiquen, ordenen i serveixen als estats.
Al meu llibre, el que tenim és una tradició diferent: en aquest procés de classificar i ordenar que jo descric sempre hi ha un benefici. I la generació de valor es produeix sempre als llocs més foscos de les biblioteques, de les oficines de patents...
O d’aquests centres de dades d’on sorgeixen els algoritmes.
Per descomptat. De fet, amb el meu assaig, volia buscar una continuïtat entre un univers humanístic i el món polític i tècnic amb què ens trobem ara. Darrere dels models de llenguatge i de les intel·ligències artificials, hi ha una biblioteca. I la biblioteca continua sent el patrimoni que permet la generació de valor.
Sorprenentment la biblioteca s’ha convertit en la maquinària de monetització més rendible del present. És una gran paradoxa, perquè sempre hem pensat que les biblioteques eren un lloc polsós on el saber no tenia ús ni gran valor econòmic. Tanmateix, les companyies privades han vist un valor enorme en aquest coneixement que s’emmagatzema a les biblioteques.
De fet, la IA s’alimenta expoliant el saber emmagatzemat a les biblioteques.
Totalment. El que està passant és que les companyies tecnològiques estan robant tot aquest patrimoni que s’emmagatzema a les biblioteques, el tanquen als seus centres de dades, li posen un paywall al voltant i després ens el lloguen. D’aquesta manera, tu comences a pagar una quota per accedir a un coneixement que abans era gratuït.
Potser penses que està bé així, perquè és un coneixement gestionat i protegit per les companyies tecnològiques, però compte, perquè, quan aquestes empreses hagin pogut tancar tot el coneixement dins les seves bases i centres de dades, el preu començarà a pujar.
I hi ha una cosa encara més preocupant: a mesura que deleguem les nostres facultats i la nostra capacitat per expressar-nos i per utilitzar el llenguatge a la IA, el que fas és entrar en una fase de despossessió massiva i molt preocupant. No oblidem que som el nostre llenguatge.
Si aquestes bases de dades tenen tot el coneixement, elles decidiran no només què val la pena conèixer i què no, sinó què podem conèixer i què no.
Exacte, perquè si tu disposes de tot el catàleg, però el catàleg no és públic, tu pots decidir què fer visible i què no. En canvi, el gest inaugural de la biblioteca pública, que es funda al segle XIX arran de la Revolució Francesa i amb l’expropiació de les biblioteques monacals i aristocràtiques, és posar el catàleg a disposició de tothom.
Ara, hem d’exigir obrir els catàlegs amb què s’entrenen les intel·ligències artificials, hem d’exigir un mínim nivell de transparència democràtica, és a dir, fer públics els catàlegs.
Es tracta de saber amb què s’està entrenant la IA.
Quan s’entrenen els models d’intel·ligència artificial, i això s’ha establert en la instrucció dels grans casos sobre drets d’autor als Estats Units, és que s’utilitzen tots els llibres, en una versió comprimida i estadística i convertits en dades. Per això, poso en dubte quan es diu que aquests models d’IA són molt intel·ligents. Són unes biblioteques al·lucinants i amb un nivell d’indexació mai vist abans, però la intel·ligència és una altra cosa.
Com a societat democràtica hem de saber d’on ve el coneixement, la informació. Estem en un moment de pensament màgic en què la IA dóna informació, però no indica les fonts. Tanmateix, si comences a obrir els catàlegs, veuràs que la intel·ligència artificial no és tan intel·ligent: el que fa és agafar coneixement d’altres llocs sense explicitar-ho.
Xavier Nueno
A mi m’ha passat de buscar una dada i de trobar-me amb una informació que havia fet pública en un article. I quan preguntava a la IA d’on treia la informació em tornava les cites que jo havia trobat i publicat. A la pregunta sobre l’origen de tot aquest coneixement, em donava unes referències totalment improbables. El que vull dir amb això és que l’operació ideològica fonamental de la IA és esborrar les fonts.
Abans parlava de la precarietat de la universitat. En el seu assaig, cita la novel·la Search de 1962 en què es planteja de quina manera la universitat i la recerca volen preservar-se com a lloc per a una elit econòmica.
La universitat sempre ha estat precària. En les poesies goliàrdiques del segle XIV i XIII ja ens trobem amb estudiants d’economies escasses, que tenen poc per menjar i que detesten el món dels professors, que els semblen avorridíssims, doncs tot el dia escupen llatinismes i són uns pedants. Jo intento fixar-me en el moment en què, teòricament, la universitat deixa de ser com un lloc d’elits i apareix la universitat pública, a Europa, sobretot, i la universitat més massificada en el món anglosaxó.
La pregunta és com aconsegueix la universitat conservar el seu elitisme. L’Institute for Scientific Information va començar a comptar les cites que tenien els científics en els seus papers: com més cites, més important és l’article i, com més es comparteix l’article, més prestigi té.
En principi, podríem estar d’acord en aquesta lògica, el que passa és que d’aquesta manera també es reforçaven els privilegis ja existents: qui estava a dalt dels rànquings dels científics més citats eren els científics de Harvard, de Princeton. I, per tant, els fons de recerca acabaven sempre en mans d’aquests, en mans de qui tenia més publicacions.
Com passa sempre, els rics sempre més rics i els pobres...
Sempre més pobres. Aquest tipus de desigualtat que està engranada en la tecnologia de l’índex, perquè dona més visibilitat als que ja són a dalt. I com que la nostra atenció és limitada, a l’hora de buscar a Google arribes amb sort a la pàgina 10, però per norma general et pararàs a la pàgina dos o tres. S’aparenta transparència, però, en realitat, aquest és un mecanisme que oculta molt més del que mostra.
Es parla molt dels estudiants que utilitzen la IA per als seus treballs universitaris. No es té consciència del que implica la IA, de l’espoli que és i de les seves implicacions?
Però caldria parlar també dels docents, perquè hi ha casos també d’estudiants que han denunciat els seus professors per utilitzar IA. De casos així, en trobem alguns i amb força ressò mediàtic als Estats Units. Per tant, no posem el focus només en els estudiants, sobretot perquè els professors haurien de ser més conscients, precisament per la seva experiència anterior, del que es perd amb la IA. Els més joves, per haver crescut amb una tecnologia d’aquest tipus, tenen potser una relació menys crítica.
De tota manera, llegint-lo em fa la impressió que vostè és crític, però no apocalíptic.
La meva postura és força ambigua. Quan va sortir Google, es va alertar que anava a destrossar el coneixement. I, en certa manera, el va destrossar totalment: les eines bibliogràfiques de referència, els índexs... Tot va quedar integrat. Si et dediques a la recerca, t’adones que totes aquestes eines que encara existeixen, però que ja ningú utilitza, són molt útils perquè organitzen el coneixement d’una manera molt més racional que la cerca semàntica de Google, que sempre et llança a unes cascades d’informació infinites sense que mai arribis al final.
Xavier Nueno
Crec que hem de desenvolupar bones estratègies per tenir criteri per saber en quines circumstàncies utilitzar un tipus de cerca i en quines circumstàncies utilitzar-ne una altra. A més, no hem d’oblidar que una cosa és fer una cerca i una altra cosa és llegir un llibre. Si tu vols saber d’alguna cosa, si us plau, llegeix un llibre! Perquè el que et donarà la IA és una versió digerida, una gota de tot el contingut que emmagatzema un bon llibre.
Cada cop més a molta gent se li planteja la lectura d’un llibre com un esforç, però és un esforç que té uns retorns enormes. Som els llibres que hem llegit i és important abraçar el plaer de la lectura i recordar el que David Baldacci, escriptor nord-americà de novel·la negra, diu en relació amb la IA: ens necessiten a nosaltres i als nostres oficis.
Perquè sense nosaltres, la IA...
Res. Perquè són les nostres facultats les que generen coneixement i generen coses noves. I afegeixo una cosa més: els debats que hi ha sobre l’ús de la IA en novel·les són molt endarrerits en premis i tot això, jo el que veig és com que el debat està molt endarrerit, sobretot perquè posen el focus en llibres que, amb o sense IA, no aporten res veritablement nou ni interessant.
