La IA entra al consell d'administració
"El nou projecte de llei sobre intel·ligència artificial no tracta només de tecnologia: obliga les empreses a supervisar decisions automatitzades, documentar responsabilitats i assumir que la IA ja forma part del perímetre de governança, compliance, reputació i drets fonamentals"
Durant anys, moltes empreses van incorporar intel·ligència artificial com qui instal·la una nova eina de productivitat: de pressa, sense mapa i, en molts casos, sense saber realment quines decisions estava ajudant a prendre.
El projecte de Llei Orgànica aprovat recentment pel Consell de Ministres canvia aquest paradigma. Encara no és una llei vigent —el text ha d'iniciar ara la seva tramitació parlamentària al Congrés i podria modificar-se durant el procés—, però la seva orientació estratègica és inequívoca: la intel·ligència artificial deixa de ser únicament innovació tecnològica per convertir-se en infraestructura crítica de decisió.
I això canvia completament el marc empresarial.
La norma busca adaptar Espanya al Reglament Europeu d'Intel·ligència Artificial i construir el sistema nacional de supervisió, governança i sancions. Però la veritable transformació no està en els titulars més mediàtics ni en les multes multimilionàries. Està en una altra idea molt més profunda: les organitzacions hauran de començar a governar com prenen decisions assistides per algoritmes.
Perquè la IA ja no és només una eina de suport. Cada cop més, classifica, filtra, recomana, puntua i condiciona decisions humanes.
I això introdueix un nou nivell de responsabilitat corporativa.
La futura norma incorpora l'obligació de supervisió humana en sistemes que puguin afectar drets fonamentals, endureix les prohibicions sobre usos considerats de risc inacceptable i reforça el règim sancionador, amb multes que podrien arribar fins a 35 milions d'euros o el 7% de la facturació global en els casos més greus.
Espanya també ha impulsat dins el marc europeu la prohibició específica de sistemes destinats a generar deepfakes sexuals i pornografia infantil mitjançant IA, un dels punts més sensibles de la regulació pel seu impacte sobre menors, dones i reputació digital.
Però el veritable canvi empresarial no està aquí.
La qüestió clau és que la intel·ligència artificial entra oficialment en el perímetre de governança i compliance corporatiu.
Les companyies hauran de demostrar quins sistemes utilitzen, quins riscos generen, qui supervisa els resultats, quines dades alimenten els models i com es documenta la responsabilitat quan una decisió automatitzada provoca un perjudici.
I el problema ja no és teòric.
Avui ja existeixen organitzacions on algoritmes ajuden a prioritzar candidats en processos de selecció, classificar clients, recomanar operacions financeres, avaluar riscos asseguradors o decidir quines incidències reben atenció preferent. L'automatització ja no afecta únicament tasques. Comença a afectar el criteri.
Fins ara, moltes empreses operaven en una mena de “zona grisa algorítmica”. Empleats utilitzant eines externes sense control, prompts crítics dispersos, automatitzacions invisibles, decisions parcialment delegades i absència total d'inventaris interns sobre IA.
El problema ja no és si una empresa utilitza intel·ligència artificial. El problema és si sap realment com està prenent decisions amb ella. I aquí apareix un dels grans desafiaments d'aquesta dècada: la governança algorítmica.
Igual que va passar fa anys amb la protecció de dades, moltes empreses creuen avui que el repte consisteix únicament a complir requisits legals. Però, igual que va succeir amb la sostenibilitat, el veritable canvi no estarà en reportar, sinó en demostrar control, traçabilitat i criteri humà en entorns cada cop més automatitzats.
Perquè la IA no només impacta en eficiència. També afecta reputació, drets fonamentals, biaixos, governança i confiança corporativa.
La sostenibilitat empresarial ja no tracta únicament d'emissions o impacte ambiental. També comença a mesurar com es prenen les decisions. I això obliga a obrir un debat incòmode: qui supervisa realment els algoritmes dins les empreses? Perquè moltes organitzacions encara no saben quantes decisions comencen a delegar silenciosament en sistemes algorítmics.
La creació de l'Agència Espanyola de Supervisió d'Intel·ligència Artificial (Aesia) reforça a més el paper de l'Estat en aquest nou escenari. L'Aesia es convertirà en peça central del sistema de control, juntament amb supervisors sectorials com el Banc d'Espanya, l'Agència Espanyola de Protecció de Dades o el Consell General del Poder Judicial.
No és un moviment menor.
Europa fa anys que intenta construir un model propi davant la lògica més desregulada dels Estats Units i el model de control estatal xinès. Però l'objectiu europeu no és únicament competir en capacitat tecnològica, sinó també en legitimitat, supervisió i control democràtic.
I Espanya vol posicionar-se com un dels nodes europeus de governança de la intel·ligència artificial.
Els sectors regulats —finances, assegurances, salut, Administració pública o infraestructures crítiques— seran probablement els primers a notar l'impacte real d'aquest nou marc.
Especialment perquè moltes de les decisions estratègiques ja comencen a recolzar-se en sistemes algorítmics capaços d'analitzar riscos, avaluar operacions, segmentar clients o automatitzar processos sensibles.
La IA ja no està al departament d'innovació. Comença a entrar directament als consells d'administració.
Durant anys es va parlar de intel·ligència artificial com una revolució tecnològica. Però les grans transformacions mai arriben únicament quan apareix una tecnologia, sinó quan la societat decideix qui pot utilitzar-la, com s'ha de supervisar i qui n'assumeix les conseqüències.
La intel·ligència artificial no està substituint únicament tasques. Comença a ocupar un espai molt més sensible: el lloc on les empreses analitzen, prioritzen i prenen decisions.
