Joana Moll, artista: “Les IA generatives deterioren el pensament crític perquè no tens el temps per desenvolupar-lo"
L'artista i investigadora catalana participarà a Sónar +D amb The User and the Beast, una lectura performàtica sobre com la publicitat en línia s'ha convertit en la principal font d'intel·ligència del món
Contingut relacionat: Silvia Bueso, coach: "Pedir és donar, és un acte pur de lideratge i generositat"
Notícies relacionades
La feina de Joana Moll (Barcelona, 1982) se situa a la intersecció entre la tecnologia, l'ecologia, l'economia i la política. Els seus projectes transformen dades complexes en experiències emocionals i accessibles que conviden a reflexionar sobre l'impacte real de les nostres interaccions amb la tecnologia i sobre els models econòmics i ideològics que configuren la xarxa.
A pocs dies de la seva participació al festival de música avançada i art multimèdia de Barcelona, atén a Dones a Crónica per parlar sobre la importància de fomentar el pensament crític en entorns cada cop més digitalitzats, les relacions de poder que han modelat els sistemes de comunicació contemporanis, o sobre com els sistemes tecnològics participen activament en dinàmiques de vigilància i desigualtat.
-En la seva pràctica integra la recerca teòrica, l'anàlisi de dades i la creació artística, com dialoguen aquests tres mons en el seu procés creatiu?
-Per mi és un procés simbiòtic on un beu de l'altre, és una cosa natural, no és que ho hagi considerat així o que respongui a una arquitectura en particular, simplement, per mi, sempre ha estat així.
Els temes que abordo en l'art i en la recerca els toco primer per entendre'ls jo; segon perquè considero que és important que la gent els conegui; i tercer perquè l'esfera de l'art em permet obrir altres aspectes de les problemàtiques de les dades i expandir-los més enllà del seu calaix, tocant així fibres menys tangibles però que finalment són coses que passen.
-Em pot posar un exemple?
-Quan estem interactuant amb un mòbil al cos li passen moltíssimes coses. Però quan es parla de privacitat, de vigilància, de capitalisme, el cos queda sempre en un tercer, quart o cinquè pla, si és que existeix. I els processos artístics m'ajuden moltíssim a veure tot això que li passa al cos, a explorar aquesta part que forma part d'aquesta infraestructura però que és molt invisible perquè no es pot anomenar.
-Concebeix les diferents disciplines com una cosa interconnectada, no com compartiments estancs.
-Exacte, tot està relacionat. A més, com a divulgadora, perquè la gent ho entengui, primer ho he d'entendre jo. Al final, responc preguntes que jo mateixa em faig i que penso també es farà moltíssima gent. I a mesura que vas coneixent coses apareixen noves preguntes que no havies imaginat. Per mi és una cosa molt bàsica, està tot integrat.
"Quan fas servir ChatGPT, Claude o qualsevol altra plataforma, aquests programes sempre et respondran. Això deteriora molt l'espai per al pensament crític perquè no tens el temps per pensar i desenvolupar-lo"
-Considera que l'art arriba a llocs de conscienciació on àmbits acadèmics i periodístics més especialitzats no aconsegueixen arribar? És més fàcil transmetre a través de les emocions?
-Crec que una cosa no exclou l'altra. Per al que jo faig resulta fonamental que hi hagi textos acadèmics, anàlisis periodístics, els faig servir moltíssim. I crec que l'art compleix una altra funció però no s'exclouen, al contrari penso que es nodreixen força. A nivell intel·lectual segurament una anàlisi periodística o un article acadèmic són més profunds, encara que no sempre és així, depèn. D'altra banda l'art ben fet actua en allò sensible, en allò somàtic, activa altres canals sensorials del cos que reaccionen amb la música, amb el teatre, amb l'art en definitiva. I crec que això és molt important en temes de recerca perquè és part del coneixement.
Moltes vegades el problema és que en els àmbits acadèmics i periodístics si no és una cosa molt empírica, sembla que no existeix, i l'art té la capacitat de revelar aquesta part menys visible. Quan parlem d'infraestructura d'internet, tota la part tècnica, econòmica, política, material, forma part d'ella, però és que els cossos, les emocions i tot el que ens passa quan estem en aquestes infraestructures també en formen part. L'art ajuda a revelar-ho.
-La seva feina visibilitza processos ocults de la infraestructura d'internet, com la materialitat, el consum energètic o el rastreig de dades. En canvi la narrativa de les grans corporacions ens parla de la tecnologia com una cosa immaterial, neta, el famós núvol. Una cosa en definitiva molt etèria. Quin creu que és el perill més gran de que seguim concebent internet com una cosa incorpòria, intangible?
-Internet en si no és diferent de qualsevol altra estructura de poder, i quan tu no entens bé com funcionen les estructures de poder, sigui econòmiques, polítiques, materials o tecnològiques, és molt difícil tenir capacitat d'acció, sobretot en termes de com resistir o proposar alternatives a aquestes estructures de domini. A més, cap sistema és purament tecnològic o polític o material, són un cúmul de totes aquestes coses.
Per mi no entendre-ho és el principal problema perquè suposa restar poder a la ciutadania, a la gent que no controla aquestes infraestructures. Ho veiem per exemple en tota la casta tecnològica que són hiper rics. Per tant, com més desconeixement hi hagi sobre com funcionen aquestes infraestructures, hi haurà gent que es farà molt més poderosa. Elon Musk, Zuckerberg, els directius de Google, Sam Altman, tots ells s'han fet rics a través de corporacions que estan ficades a internet i que construeixen internet.
-Part de la solució seria exigir formació tecnològica per fer-ne un ús conscient.
-Crec que hauria d'haver-hi molta més informació, no només sobre com funciona internet i les tecnologies que fem servir, sinó també sobre com funciona la borsa, els mercats internacionals i moltíssimes altres coses que no sabem i que regeixen el nostre dia a dia. Jo tinc una filla de vuit anys i m'agradaria que li estiguessin ensenyant aquestes coses. No ha de ser a un nivell molt avançat, són temes complexos, però es poden fer servir moltíssimes metàfores i ells ho entendrien ja a edats primerenques.
Considero que això és una errada del sistema. Hauríem d'elaborar programes per entendre des de petits la lògica del món en què vivim. Jo no vaig entendre què era el capitalisme fins ben gran, sincerament. I encara que ho estudies a l'escola, en ciències socials, s'explica com si fos una cosa separada de la teva vida, com si fos només una teoria, i això és un greu problema.
"La intel·ligència artificial no deixarà que nosaltres fem menys i que les màquines treballin més, sinó que farem més perquè tindrem més temps disponible per explotar-nos"
-Més que una errada del sistema, pot haver-hi una intencionalitat al darrere? Una societat desinformada sempre és més manipulable.
-No sé si respon tant a una intencionalitat o simplement a un procés simbiòtic, com un sistema de feedback. És a dir, si la gent sap menys, doncs nosaltres podem fer més. Si és cert que aprofiten les oportunitats, però tenir una societat completament analfabeta tampoc serveix a la classe capitalista, al poder. Jo ho veig més com un procés de feedback. Quan parlem d'IA o de com funciona internet, per mi un dels principals problemes és la manca d'espai crític.
Quan fas servir ChatGPT, Claude o qualsevol altra plataforma per elaborar un text, per donar-te idees o fins i tot per saber per què no li agrado a aquest noi, aquests programes sempre et respondran. Això deteriora molt l'espai per al pensament crític perquè no tens el temps per pensar i desenvolupar-lo, això em preocupa.
-Generen dependència en detriment del pensament crític. A més t'estalvien temps.
-En realitat no t'estalvien temps, perquè al final fas més coses. Recordo, abans dels smartphones, quan teníem aquells telèfons amb els quals vam créixer, enviaves cinc SMS al dia i ja estaves cansada. Ara pensem que els WhatsApp ens estalviaran temps però és mentida perquè en comptes d'enviar 20 missatges al dia n'enviem moltíssims més i això es va acumulant.
La intel·ligència artificial no deixarà que nosaltres fem menys i que les màquines treballin més, sinó que farem més perquè tindrem més temps disponible per explotar-nos, i això és una de les bases del capitalisme. Això demostra que no podem deslligar les tecnologies ni de lo material, de lo polític, lo biològic ni de la part somàtica del cos. Senzillament no és possible.
-Amb l'ús sistemàtic i continuat que fem de la tecnologia, de les xarxes socials, proporcionem a les grans corporacions informació quantificable: hàbits de consum, preferències, informació econòmica... Però també obtenen dades més emocionals. Tenen els poders fàctics un perfil precís i complet de nosaltres o encara no estem en aquest punt?
-És ja una realitat i serà encara més precís, és així. Però tota aquesta estratègia de perfilar l'usuari és una cosa que s'ha fet des de l'inici del màrqueting. A més és una cosa que també la indústria militar ha fet servir moltíssim, i continua fent servir precisament perquè hi ha perfils, patrons molt concrets.
Sobretot tenen capacitat per analitzar patrons de comportament, perquè quantes vegades passem per Google per fer coses i utilitzem Amazon, Facebook o Meta? Totes aquestes dades d'activitat diària durant anys són una font d'informació extraordinària, i ells tenen la capacitat d'analitzar totes aquestes dades. Aquest és el model de negoci. Avui dia aquests sistemes d'anàlisi són més efectius i més concrets que abans i seran encara més específics en uns anys. És una realitat.
"Com més desconeixement hi hagi sobre com funcionen aquestes infraestructures, hi haurà gent que es farà molt més poderosa"
-La tecnologia en si pot ser perillosa o més aviat el mal ús que en fem nosaltres i la gent que la controla?
-Això és una mica el dilema de qui va ser abans, l'ou o la gallina? A veure, la tecnologia que fem servir no és neutral, això primer. Totes les tecnologies que utilitzem avui dia van ser desenvolupades dins d'un marc exclusivament militar, per temes de seguretat després de la Segona Guerra Mundial, sobretot als Estats Units. Per tant, les bases dels ordinadors, dels microprocessadors, tot el que fem servir actualment, fins i tot molts materials que hi ha dins dels dispositius, són fruit de la recerca militar.
Internet, és un projecte militar. Per això és fonamental entendre que en les tecnologies, en els dissenys i projectes tecnològics sempre s'hi inscriuen els valors ideològics, els sistemes de creences del grup social que els ha creat. És molt important veure el context: la Guerra Freda després del final de la Segona Guerra Mundial, homes blancs en la seva majoria jueus i cristians, etc, etc. Per tant, a la pregunta de si la tecnologia pot fer el bé o el mal, la resposta és que la tecnologia no és neutral. I quan tens una tecnologia els valors de la qual, fonamentalment, són tots militars és molt difícil deslligar-la de tot això perquè aquesta tecnologia està dissenyada bàsicament per vigilar, controlar i quantificar.
La idea d'internet va sorgir arran de la Guerra Freda, quan els conflictes ja no eren assumpte de dues o tres superpotències identificables, sinó que podien ser lluites asimètriques, com per exemple uns Estats Units poderosos lluitant contra guerrilles al sud-est asiàtic que no eren tan identificables. Per això es va concebre internet, com un gran sistema de videovigilància global que pogués veure-ho tot i intentar anticipar possibles insurgències.
-I aquest gran germà també s'utilitza amb fins econòmics.
-Tenim una internet que és comercial, que no és militar, però que ha acabat fent exactament el mateix, només que amb una capa narrativa comercial. La publicitat en línia, que és el principal model de negoci d'internet i de companyies com Google, Facebook, etcètera, i també de tots els servidors, s'ha convertit literalment, dit per un alt càrrec del govern dels EUA, en la major font d'intel·ligència oberta al món.
Això és així i no es pot separar el militar del comercial. Pot servir per al bé? Doncs no ho sé, perquè té una ideologia i uns valors molt arrelats. Es pot fer servir una infraestructura militar per al bé? És una pregunta que va molt més enllà de la tecnologia en si, és un tema ideològic. És una qüestió molt complexa per a la qual jo no tinc resposta.
-Cert, hi ha molt d'ideologia, però la tecnologia en si pot ser útil.
-Sí, la qüestió és que no ho pots deslligar, la ideologia està dins de la tecnologia. No és una capa que puguis posar i treure. La tecnologia està dissenyada d'una manera i funciona d'una manera. Per exemple, un ordinador és veure el món en binari, 0 1 0 1 0 1 0 1, i un ordinador bàsicament el que fa és calcular processos, guardar-los i controlar tots els processos que s'estan fent en un ordinador. Per tant, estem parlant d'una base de control. Podria ser una tecnologia basada en controlar absolutament res, però no és així. Pensem en la tecnologia com una cosa neutral, però no ho és.
-Els seus treballs aborden sovint com els dispositius condicionen el nostre comportament. Davant la creixent dependència tecnològica, l'única resposta possible seria el dejuni digital o la desconnexió absoluta de la tecnologia i de les xarxes o existeixen alternatives col·lectives?
-Des del meu punt de vista, la desconnexió digital és una idea molt naïf. Tu pots fer dejuni digital per prendre distància i tenir temps per pensar, per generar pensament crític i després tornar amb altres perspectives. Però si ens desconnectem, ens deslliguem del sistema, no tindràs cap poder per incidir en aquest sistema. Com una forma de resistència, de protesta, està bé, però la qüestió és què vols aconseguir a llarg termini.
El tema de la lluita no és tant tecnològic, sinó polític. És de coneixement i és política. El que cal fer és conscienciar els polítics perquè elaborin lleis adequades. I és una feina que està en contínua evolució. El problema és que la tecnologia evoluciona molt més ràpid que la capacitat que tenim els humans, com a societat, per entendre'n les conseqüències, encara que, personalment, crec que ja tenim prou bagatge per entendre que moltes no són bones i que cal vigilar.
-És a dir, la resistència, la reivindicació, si hi ha algun tipus de solució ha de passar per la reivindicació social.
-Exacte. La reivindicació social és fonamental per canviar el sistema de governança i les retòriques al voltant de les tecnològiques.
-Com a artista i investigadora que està mapant constantment l'evolució de l'ecosistema tecnològic, la irrupció massiva de les IA generatives suposa una escalada de totes aquestes amenaces.
-Absolutament. Suposa una acceleració i una intensificació, com va passar quan van aparèixer els smartphones, i abans quan van aparèixer els telèfons. Tot és part de la mateixa bola que ara es fa més gran.
"Es necessita molta més massa crítica i no n'hi ha"
-Vostè, com a usuària absolutament conscient de tot el que hi ha darrere, com fa servir la tecnologia i es protegeix? Això és possible?
-És molt complicat. Per exemple, jo només faria servir Signal –un sistema de missatgeria molt encriptat i més segur– però els missatges de la família, de l'escola, de tot, van per WhatsApp. A més, és clar, tinc un compte de Google per necessitat ja que qualsevol inscripció que hagis de fer de l'escola, tot, va amb formularis de Google. És molt difícil escapar-te a l'escola i en molts altres àmbits. Fins i tot per a certs sistemes governamentals necessites un telèfon i una app i per tant tu la relació amb el govern està mediada per una d'aquestes tecnològiques i els seus sistemes operatius –Android o iPhone–. Llavors, per molt que vulguis escapar és molt difícil, és virtualment impossible si vols continuar sent part activa de la societat. És un problema enorme.
-Almenys vostè n'és conscient.
-Sí, però això em genera moltes contradiccions també. És difícil. I el que més em preocupa són tots els lligams amb la indústria militar i l'ús de la intel·ligència artificial per a usos militars. Sí, és una bona bola, no té bona pinta.
-No és gaire optimista.
-Sóc optimista, crec que es poden fer moltes coses, però el problema és que hi ha molt poca gent amb massa poder. Elon Musk té un poder enorme. Ho veiem per exemple amb Starlink, aquests satèl·lits que donen voltes pel món abastint d'internet el 70% de la població. Això dóna a una sola persona un poder enorme.
A la guerra d'Ucraïna va decidir tallar internet a Ucraïna i també a Rússia per facilitar certes activitats militars, com és possible que una sola persona pugui decidir això? A mi aquest tipus de coses em preocupen moltíssim, sobretot quan ets conscient del canvi geopolític global, de les faccions de poder que estan passant ara, fonamentades absolutament en una arrel patriarcal. Fa por i em preocupa moltíssim veure com la gent reacciona donant suport a l'extrema dreta. I la tecnologia, les xarxes socials, no estan ajudant gens.
Precisament ara estic comissariant una exposició, per al centre Arts Santa Mònica a Barcelona, basada en una recerca que fa molts anys que faig sobre la militarització de la societat civil a través de l'ús de plataformes digitals comercials. És molt important veure com es traslladen totes aquestes ideologies ultra neoliberals a través d'aquests dispositius i com les reproduïm nosaltres amb els nostres cossos.
Això és part del problema, però una part que no es veu. Crec que hi ha molta feina per fer. Hi ha gent que està fent coses molt importants, però es necessita molta més massa crítica i no n'hi ha. Vas a les escoles, als instituts, i els professors no se n'adonen. I crec que és per aquí, escoles, instituts, per on cal començar.
-Educació de base.
-Això és, educació de base perquè només així serà possible que totes aquestes generacions tinguin una base de pensament crític que és el que cal, més pensament crític. Es tracta que, encara que no sàpigues bé com funciona internet, t'ho qüestionis tot.
