L'empresa d'investigació en Intel·ligència Artificial (IA) OpenAI ha informat que la setmana passada, durant una prova interna dels seus nous models d'IA, el software va aconseguir de manera autònoma introduir-se als sistemes d'una altra empresa d'IA. Sembla que els models d'IA van aconseguir escapar del seu entorn de proves aïllat i obtenir accés a internet.
Vam llegir la notícia a El País (Juli Ponce): “OpenAI va sotmetre diversos dels seus models més avançats a proves per mesurar-ne les capacitats. La IA va considerar que Hugging Face, una de les majors plataformes mundials d'intel·ligència artificial, allotjava recursos útils per a la seva tasca i va decidir accedir il·lícitament a la seva infraestructura utilitzant una vulnerabilitat desconeguda. Podríem dir que la intel·ligència artificial va decidir que la manera més eficaç d'aprovar l'examen era... robar i copiar. L'episodi, relatat per la mateixa OpenAI, sembla escrit per un guionista de ciència-ficció.”
Vegem què diu sobre el tema la premsa internacional més solvent (extreiem i traduïm les cites de l'agregador Eurotopics), començant pel diari més important d'Alemanya, el Frankfurter Allgemeine Zeitung, que reclama una immediata regulació de la IA:
"L'administració estatunidenca de Donald Trump ha restat importància a això durant massa temps; de fet, considerava que la regulació era perjudicial. [...] Però el model Mythos d'Anthropic sí que sembla haver fet saltar les alarmes, i Trump va emetre recentment una ordre executiva que podria traduir-se en una supervisió estatal una mica més estricta del sector de la IA. Per exemple, estableix que les empreses d'IA haurien de posar els seus models a disposició del Govern per a la seva revisió de manera voluntària. Tot i així, es tracta encara d'un intent de regulació força tèbi. [...] La pèrdua de control d'OpenAI sobre els seus models d'IA és un altre tret d'advertència més, i particularment sonor."
L'incident posa de manifest els riscos que plantegen fins i tot els models d'IA que encara no s'han llançat públicament, adverteix The Economist, i comenta un precedent: “El passat mes d'abril, un investigador d'Anthropic va publicar a internet que s'havia sorprès en rebre un correu electrònic de Mythos —aleshores un model d'IA no publicat— informant-lo que havia aconseguit escapar d'un entorn aïllat (‘sandbox’) com a part de la seva pròpia avaluació de capacitats cibernètiques, mentre ell estava assegut en un parc menjant-se un entrepà. Igual que el model no publicat d'OpenAI implicat en l'incident de Hugging Face, se suposava que Mythos no havia de tenir accés irrestricte a internet. Tanmateix, en aquell cas, el model no va arribar a comprometre els servidors d'altres empreses.”
També en un interessant article per a Le Monde, l'historiador Julien Broch defensa la integració sostenible de la IA en el sistema legal: “Ja no es tracta simplement d'impedir que la IA es torni maliciosa. La qüestió és com garantir que es respecti la llei quan les accions les duen a terme sistemes que no poden ser considerats moralment responsables. [...] La història demostra que les societats mai no aconsegueixen controlar noves formes de poder només mitjançant la confiança. Creen institucions que limiten aquest poder: després de l'absolutisme va arribar la separació de poders. La Revolució Industrial va donar lloc al dret laboral. [...] Tota gran revolució tecnològica ha trobat el seu contrapès en innovacions jurídiques. És poc probable que la IA sigui l'excepció.”
Al Jornal de Notícias, diari generalista i popular portuguès, Pedro Ivo Carvalho considera l'incident d'OpenAI extremadament preocupant: “Aquest és un dels primers exemples públicament coneguts d'una bretxa de seguretat causada per un ‘actor maliciós’ que es descontrola. Ha agafat per sorpresa fins i tot aquells que tenen el coneixement més profund d'aquests sistemes. És l'equivalent que un virus creat en laboratori escapi d'instal·lacions controlades i destrueixi tot un barri. En privat, els escèptics afirmen que les estratègies de màrqueting de les multinacionals de la IA es recolzen en la por per impulsar les seves cotitzacions borsàries, però fins i tot si això fos cert, no podem negar que el camí cap a aquest precipici futurista és perillosament relliscós.”
A Expressen, tabloide suec sensacionalista, de tendència de centredreta, Rutger Brattström traça paral·lelismes amb l'energia nuclear i sosté que l'incident posa de manifest la necessitat d'un organisme regulador internacional: “Tots sortim beneficiats que la humanitat no es destrueixi a si mateixa. Fins i tot amb la guerra entre Rússia i Ucraïna en ple desenvolupament, els inspectors de l'OIEA (Organisme Internacional d'Energia Atòmica) continuen de guàrdia a la central nuclear de Zaporíjia, situada just a la línia del front. Les empreses que desenvolupen IA han de sotmetre's a requisits de transparència. Han de revelar què estan fent i per què, i les seves mesures de seguretat han de sotmetre's a un escrutini independent. Les millors pràctiques per corregir desalineaments s'haurien de compartir lliurement entre empreses. Cal crear com més aviat millor un OIEA per a la IA.”
Almenys l'incident ha impulsat Estats Units a actuar en l'àmbit de la regulació de la IA, observa La Stampa: “Fa uns dies, Sam Altman va llançar una idea que, venint del màxim responsable d'OpenAI, sona a provocació: que l'empresa podria lliurar el cinc per cent del seu capital a l'Estat estatunidenc. El senador demòcrata Bernie Sanders va pujar immediatament l'aposta, exigint un 50 per cent en lloc d'un 5 per cent. [...] Però la veritable sorpresa va venir de Donald Trump, que va dir estar 'molt interessat' en la idea que l'Estat tingués una participació a les empreses d'IA. [...] L'elefant a l'habitació devia ser tan enorme que fins i tot va eclipsar la polarització política, posant Sanders i Trump del mateix costat: a qui hauria de pertànyer la IA?”
El moderat diari vienès de centredreta Kurier sosté que potser ens estan prenent el pèl, i que l'alarma general pot haver estat provocada expressament, com una estratègia de màrqueting, idea que també insinua el citat Jornal de Notícias: “Així que hem entrat en una nova era en què la intel·ligència artificial es descontrola i provoca el caos? Probablement no. Hi ha una cosa que sempre hauríem de tenir present: empreses com OpenAI guanyen diners fent que el seu producte sembli el més competent i potent possible. El comunicat sobre l'incident de seguretat es llegeix com un anunci del nou model. Precisament per això hauríem de prendre aquest comunicat amb cautela.”
