Gobernar la inteligencia artificial: de la fascinación tecnológica a la responsabilidad empresarial
Durante los últimos años, la conversación sobre inteligencia artificial ha estado dominada por sus posibilidades: automatización, eficiencia, productividad, personalización y capacidad de análisis se convirtieron en las protagonistas de un debate empresarial marcado por el entusiasmo.
Ese debate entra ahora en una etapa diferente. La pregunta relevante ya no es si las empresas deben utilizar o no inteligencia artificial. La cuestión verdaderamente importante es cómo deben gobernarla.
Este cambio revela una evolución significativa en el grado de madurez de las organizaciones. Hemos pasado de la experimentación al gobierno corporativo, de los proyectos piloto a la implantación y del entusiasmo inicial a la responsabilidad.
Hace un año, las compañías pedían ayuda para identificar casos de uso dentro de la organización. Necesitaban saber dónde podía aportar valor la inteligencia artificial y qué procesos podían automatizarse. Hoy son los consejos de administración los que formulan preguntas de naturaleza muy distinta. ¿Cómo se gestionan los riesgos derivados de la implantación de inteligencia artificial en las organizaciones? ¿Quién responde si un agente de inteligencia artificial toma una decisión equivocada? ¿Cómo se controlan cientos de asistentes desplegados en una misma organización? ¿Cómo deben documentarse las decisiones adoptadas por la inteligencia artificial? ¿Cómo se miden sus riesgos? ¿Cómo se demuestra el cumplimiento normativo en tiempos de inteligencia artificial?
Estas preguntas ponen de manifiesto que la conversación ya no es tecnológica. Es una conversación principalmente de gobernanza. Gobernar la inteligencia artificial significa, ante todo, conservar el control sobre su utilización. Supone saber qué sistemas emplea la organización, con qué finalidad y bajo la responsabilidad de quién. Exige identificar los riesgos, establecer controles, supervisar el funcionamiento de los modelos, gestionar las incidencias y revisar de manera continua las decisiones adoptadas.
También significa evitar que la responsabilidad quede diluida entre los departamentos de tecnología, negocio, cumplimiento normativo, auditoría interna, protección de datos y asesoría jurídica. Cuando una herramienta condiciona decisiones empresariales, deben estar claramente definidos quién autoriza su uso, quién supervisa sus resultados y quién responde cuando algo no funcionó como estaba previsto.
No todos los usos presentan el mismo nivel de riesgo. Una herramienta destinada a agilizar una tarea interna no tiene las mismas implicaciones que un sistema que interviene en decisiones que afectan a clientes, empleados o terceros. Gobernar implica, por tanto, evaluar cada caso de uso y aplicar controles proporcionales a su impacto.
Este es un terreno en el que los abogados tienen mucho que aportar. No en vano, la profesión jurídica lleva décadas ayudando a las organizaciones a gobernar riesgos societarios, regulatorios, de protección de datos o de ciberseguridad. La gobernanza de la inteligencia artificial constituye, sencillamente, el siguiente gran reto.
En este contexto aparece una herramienta especialmente útil: la norma ISO/IEC 42001, cuya misión no es competir con el Reglamento europeo de Inteligencia Artificial sino complementarlo.
El Reglamento europeo de Inteligencia Artificial explica el qué. La ISO 42001 ayuda a entender el cómo hacerlo: cómo asignar responsabilidades, cómo crear controles, cómo supervisar modelos, cómo gestionar incidencias y cómo establecer procesos de mejora continua. En definitiva, permite convertir principios jurídicos en procesos empresariales.
La gobernanza no puede consistir únicamente en aprobar una política interna o redactar una declaración de principios. Debe convertirse en un sistema real de gestión, capaz de operar en el día a día de la compañía y de adaptarse a la evolución de los modelos y de sus usos.
Eso es precisamente lo que demandan las organizaciones. Porque las empresas no necesitan únicamente cumplir. Necesitan demostrar que cumplen. Esta diferencia es esencial. En un entorno regulatorio cada vez más exigente, no basta con afirmar que un sistema se utiliza de forma responsable. Resulta necesario acreditar que se han identificado los riesgos, que existen controles, que los resultados se supervisan y que las incidencias se gestionan adecuadamente. La capacidad de aportar evidencias será tan importante como el propio cumplimiento. Y será, además, una fuente de confianza en el mercado.
La confianza será, probablemente, la verdadera moneda de cambio de la inteligencia artificial. No ganarán necesariamente las compañías que utilicen más IA, sino aquellas capaces de demostrar que la utilizan mejor. Utilizarla mejor significa hacerlo de forma responsable, explicable, auditable y segura.
En un mercado en el que muchas organizaciones tendrán acceso a herramientas similares, el elemento diferencial no estará únicamente en la tecnología empleada. Estará en la forma de integrarla en la organización, en la solidez de los controles y en la capacidad de responder ante clientes, empleados, reguladores y socios comerciales.
Alejandro Touriño, presidente de la sección TIC del ICAM y socio director de Ecija.
Sigue leyendo la noticia en expansión aquí
Profesionales relacionados
ACTUALIDAD #ECIJA
El histórico acuerdo entre Michael Jackson y Pepsi marcó un antes y un después en la explotación comercial del derecho de imagen, sentando las bases de los contratos de patrocinio modernos. Hoy, en un entorno dominado por las redes sociales y la inteligencia artificial, estos acuerdos son más complejos y estratégicos que nunca.
El área de TMT de ECIJA analiza el "Ómnibus Digital", la reforma aprobada por la Unión Europea que simplifica el Reglamento de Inteligencia Artificial (RIA). Amplía plazos, reduce cargas para pymes y refuerza los poderes de la Oficina Europea de IA, sin bajar el nivel de protección de derechos y seguridad.
Expansión destaca a ECIJA entre las mejores iniciativas pro bono del sector legal por el desarrollo de una herramienta de inteligencia artificial offline que mejora el acceso a la justicia en entornos penitenciarios.
Ante el auge de las estafas o fraudes electrónicos SUTEL pide ajustes.
La entrada en vigor del Reglamento europeo de IA convierte la gobernanza de la inteligencia artificial en una prioridad estratégica para los consejos de administración. Alejandro Touriño (ICAM/Ecija) explica por qué la pregunta ya no es "si" usar IA, sino "cómo" gobernarla, y presenta la ISO/IEC 42001 como el marco que traduce los principios del Reglamento en procesos reales de gestión, control y evidencia de cumplimiento.
ECIJA ha asesorado a NOSTROMO PICTURES y BETA FICTION en la película “CRONOS”, basada en testimonios reales de los implicados, y que narra el desarrollo de la operación Cronos, el dispositivo activado tras el acto terrorista perpetrado en las Ramblas (Barcelona) el 17 de agosto de 2017.
Félix Jáquez, socio de ECIJA REPUBLICA DOMINICANA participa como moderador en el Congreso de Servicios de Confianza y Certificación Digital 2026
La mayoría de las empresas cree tener claro qué datos personales trata. Sin embargo, esa percepción suele limitarse a la base de datos de clientes, cuando en realidad el tratamiento de datos personales abarca mucho más.
SUTEL aprobó el 18 de junio de 2026, lasmedidas regulatorias más completas adoptadas hasta la fecha en Costa Rica para combatir los ciberataques mediante mensajes de texto SMS (smishing) y llamadas telefónicas fraudulentas (vishing).
