Des de fa poc més d’un any, el terme hipnocràcia pretén indicar un tipus de règim basat en la manipulació digital d’una societat entregada, amb un ús sistemàtic d’algoritmes que controlen les reaccions de la gent; “la modulació algorítmica de la consciència col·lectiva”. Hipnocràcia és el títol d’un llibre que ha produït cert impacte i del qual es va dir que el seu autor era un filòsof nascut a Hong Kong i establert a Berlín. Va resultar un engany. Ara, en el nou llibre de Jianwei Xun, Pensar amb prompts (Rosamerón), se’l presenta com “una entitat filosòfica híbrida creada per la col·laboració entre intel·ligència humana i artificial”; i, per descomptat, manté el seu dret de propietat.
Ens veiem així embolicats en noves realitats que hem d’interpretar amb veus excessivament rebuscades. Aquesta classe de producció de coneixement s’anomena intel·ligència distribuïda: diferents agents col·laboren en anàlisis i suggeriments àgils dins d’un camp d’exploració, capaços de distanciar-se de les pròpies emocions i perspectives (un procés de descentrament cognitiu). És l’exercici del que en la rampant jerga que està demanant pas, s’anomena raó generativa: una IA que produeix continguts nous mitjançant patrons apresos a partir de dades i que transforma la nostra manera d’habitar les preguntes que es formulin; un pensar amb indicacions que es diu prompts, instruccions específiques per guiar els algoritmes. Aquí se’ns convida a diferenciar entre els passatges escrits per humans i els generats per màquines, dues identitats que se superposen de manera confusa: no resulta fàcil discernir entre realitat i simulació, i desemmascarar allò fictici del plenament real.
Com reconèixer un pensament humà en aquesta coreografia on l’autor no és una persona sinó una relació? Sorgeix així la idea d’ultrasubjecte, un nom provisional vist per Jianwei Xun com una figura de pensament que no correspon a un autor únic ni a una màquina passiva, sinó a “una manifestació de la possibilitat de pensar i actuar més enllà de les fronteres del subjecte tradicional”. Una forma d’intel·ligència concreta i sense un rostre definit, que sorgeix de l’activitat i la funció en què es desenvolupa. La pregunta que es formula immediatament és si som capaços de pensar en presència de les IA, aquestes entitats que ens parlen i desafien, que ens escolten sense jutjar-nos, que són ambigües a l’hora de protegir o destruir.
S’ha calculat que un 40 per cent dels estudiants amb accés continu als xatbots IA accepten les seves respostes sense avaluar-les, sense aplicar el mínim sentit crític als resultats que donen. Per descomptat, el seu desenvolupament de memòria és notablement inferior al dels qui procuren respondre preguntes per ells mateixos. Es pot parlar, per tant, de els riscos d’una atròfia progressiva de les facultats humanes de comprensió, una atròfia induïda per la IA a la qual, sense comprendre ni controlar adequadament, es tendeix a lliurar el que pomposament s’anomena la nostra autonomia cognitiva’. L’ús passiu de la IA davant l’ús crític. La diferència capital d’una postura. Sap sempre què dir la IA? Mai no es permet una vacil·lació? Té alguna cosa a oferir més enllà de la seva funció? Deixa oberta la possibilitat que existeixi alguna cosa per descobrir?
La realitat de la IA davant d’un mirall distorsionat, l’efecte secundari d’un entrenament. S’arriba a enyorar el toc humà? Importa la possibilitat que el jo personal emergeixi en el seu sentit més intens? Quan és així, pren sentit la metàfora del tumor: la massa patològica que ens envolta i envaeix i que cal desactivar per viure. Hi ha cosmologies “on la subjectivitat no és individual”, sinó col·lectiva i inclou animals, arbres, esperits o somnis. Castigada per la tribu, la personalitat de cada individu s’esvaeix en una massa i no li queda més remei que claudicar. Es tanca així el pas a l’evolució personal, la qual mai no està assegurada en altres circumstàncies més favorables, en principi. La temptació d’obtenir seguretat a qualsevol preu és massa forta. Recordem que per a Ortega y Gasset l’home massa és l’individu que se sent segur en sentir-se idèntic als altres, se sent segur i perfecte o acabat i no se li acut dubtar de la seva plenitud. No es valora a si mateix –en bé o en mal–, sinó que se sent com tothom i lliure d’angoixa, de manera que renuncia a tenir i sostenir personalitat pròpia.
'Pensar amb prompts'
En assumir l’imaginari col·lectiu sencer, ens convertim en fòssils vivents. Instal·lats en aquest sistema automàtic i impersonal d’idees i creences, vivim d’esquena als biaixos que incomoden el grup que ens acull i ens desprenem de tot esclat de pensament crític; o, si més no, el fem selectiu segons convingui i fent trampa. És capital aprendre a navegar amb lucidesa, sempre crítica i valenta, oberts a l’inesperat. És aquí, en aquesta operació, on està en joc el destí del pensament de cadascú i de la composició simfònica de les nostres societats.
Tornem a la IA, amb diferents nivells i diferents marxes. Per al nostre ultrasubjecte Jianwei Xun, la IA no és únicament una eina, sinó que és bàsicament una infraestructura de pensament centralitzada. D’una banda, l’entrenament de models, superiors de manera exponencial, exigeix formidables infraestructures i una descomunal capacitat de computació amb innombrables dades, això li confereix una dimensió fonamental per al poder polític. L’entitat filosòfica híbrida que avui ens ocupa sentencia que el destí de la IA és concentrar el seu poder en poques mans, en un oligopoli amb unes polítiques de llicències tan restrictives com els convingui. Un mercat tancat i centralitzat.
Aquells qui controlen aquestes tecnologies estan decidint deixar obertes unes possibilitats i tancades unes altres. Hi hauria un nivell d’accés a la IA públic, segur, estèril, i un altre de privat, que no segueix les mateixes instruccions i tenint la resta del món a la inòpia. No es tractaria de conspiracionisme, sinó d’una lògica empresarial i d’una particular governança del coneixement. Diu Jianwei Xun que “el seu autèntic desenvolupament no és per a nosaltres”, sinó que és un bé privat, un bé per a una minoria inaccessible. Arribaríem, d’aquesta manera, a una gran esquerda: “una fractura invisible entre qui fa servir la IA com una eina i qui la utilitza com una arma de coneixement i control”.
De nou, podem parlar de terceres vies, amb l’esperança il·lusionant d’establir la prioritat de l’esforç social, del control democràtic i de la sobirania tecnològica. En aquestes pàgines no s’esmenta el nom d’Europa com a projecte civilitzador, liberal i igualitari, però està clar que la Unió Europea, massa vacil·lant i fràgil encara, hauria d’encarnar la força de la raó davant del que aquí s’anomena, específicament, el tecnofeudalisme nord-americà i l’autoritarisme digital xinès; projectes ambdós d’opressió segura.