American Nexo
Equipo corporativo evaluando la implementación de inteligencia artificial y sus controles jurídicos, técnicos y administrativos.

¿Gobernanza de la inteligencia artificial?

Fundamentos para su pertinente aplicación empresarial

La incorporación de la inteligencia artificial a las operaciones empresariales confronta a las organizaciones con la necesidad de integrar criterios tecnológicos, jurídicos y administrativos. Esta tarea exige una evaluación integral, sustentada en conocimientos especializados y fundamentos verificables, que permita identificar las capacidades, limitaciones, riesgos y obligaciones asociados a la utilización de estas tecnologías.

Estos apuntes se proponen examinar, a partir de fundamentos científicos, técnicos y jurídicos verificables, el concepto de gobernanza de la inteligencia artificial, su naturaleza y su aplicación en el ámbito corporativo, con el propósito de esclarecer su pertinencia en la dirección, administración y supervisión de las tecnologías de IA incorporadas a los procesos operativos y administrativos de las empresas.


Parte I — Fundamentos históricos y tecnológicos

Descargar investigación en PDF

Origen:
La palabra gobernanza tiene sus raíces etimológicas en el griego kybernân, relacionado con la acción de dirigir o pilotar, del que procede el latín gubernare, asociado al acto de gobernar.

Durante el siglo XIII, el francés antiguo incorporó gouvernance para expresar el ejercicio o la manera de gobernar. En el siglo XIV, el término pasó al inglés como governance, mientras que en el español medieval también se utilizaba la forma governança, principalmente como equivalente de gobierno.

En 1803, la Real Academia Española incorporó «gobernanza» a su diccionario como una voz antigua equivalente a gobierno. Posteriormente, en 2001, reconoció su acepción contemporánea, vinculada a una forma de gobernar orientada al desarrollo económico, social e institucional.

La recuperación internacional del término inglés governance, especialmente durante las últimas décadas del siglo XX, favoreció la reintroducción de «gobernanza» en el lenguaje político, jurídico y administrativo español. Se trata, por tanto, de una palabra de origen histórico cuyo significado especializado contemporáneo responde a una evolución conceptual posterior.

Antecedentes jurídico-administrativos:
Históricamente, la noción de gobernanza se relacionó con el ejercicio de la autoridad, la dirección de los asuntos públicos y la administración de las instituciones. Sin embargo, su formulación contemporánea adquirió especial relevancia durante las últimas décadas del siglo XX, cuando el término inglés governance comenzó a utilizarse ampliamente en los estudios sobre administración pública, desarrollo institucional y relaciones entre el Estado y la sociedad.

En 1989, el Banco Mundial abordó expresamente los problemas de gobernanza en su informe Sub-Saharan Africa: From Crisis to Sustainable Growth . En 1991, desarrolló esta perspectiva mediante Managing Development: The Governance Dimension y, en 1992, publicó Governance and Development, donde vinculó el concepto con la manera de ejercer el poder en la administración de los recursos económicos y sociales de un país.

La difusión de estos enfoques por organismos internacionales contribuyó a consolidar governance como concepto de análisis institucional y administrativo, favoreciendo asimismo la recuperación de su equivalente español, «gobernanza».

Esta evolución permite establecer una distinción fundamental: la gobernanza constituye un concepto relativo a la dirección, organización y supervisión del ejercicio de la autoridad; no representa, por su sola denominación, una ley, un reglamento ni una obligación jurídica universal.

Incorporación al ámbito empresarial:
La aplicación contemporánea del término inglés governance al ámbito empresarial se desarrolló principalmente en Estados Unidos durante el siglo XX, mediante la expresión corporate governance, vinculada a la dirección, supervisión y control de las sociedades mercantiles.

Aunque existen antecedentes de su utilización documentados desde 1953, el académico estadounidense Richard Eells empleó expresamente corporate governance en 1960 y profundizó en su tratamiento sistemático en 1962, mediante su obra The Government of Corporations. Durante la década de 1970, el concepto adquirió mayor relevancia en Estados Unidos, particularmente en los debates sobre la responsabilidad de los directivos, los derechos de los accionistas y los mecanismos de supervisión empresarial.

En 1984, los trabajos del académico Bob Tricker contribuyeron a desarrollar el concepto en el Reino Unido. Posteriormente, en 1992, el Informe Cadbury, publicado en ese país, consolidó una referencia fundamental para el gobierno corporativo, centrada en los sistemas mediante los cuales las empresas son dirigidas y controladas.

En el ámbito hispanohablante, esta evolución internacional se reflejó especialmente en las expresiones «gobierno corporativo» y «gobierno de las sociedades» . En España, el Informe Olivencia de 1998 estableció recomendaciones para mejorar el funcionamiento y la supervisión de los consejos de administración de sociedades cotizadas. En 1999, la OCDE publicó sus Principios de Gobierno Corporativo, difundidos oficialmente en español como Principios de la OCDE para el gobierno de las sociedades , contribuyendo a su proyección internacional.

Esta evolución demuestra que el gobierno corporativo constituye una práctica administrativa y jurídica con antecedentes propios, anterior a su aplicación especializada a las tecnologías digitales y a la inteligencia artificial. Su finalidad esencial es establecer estructuras de dirección, responsabilidad y supervisión empresarial, sin que ello implique necesariamente la existencia de un régimen regulatorio específico para cada tecnología utilizada por una organización.

Aplicación del concepto de gobernanza a la inteligencia artificial:
La aplicación contemporánea del término inglés governance al campo de la inteligencia artificial adquirió particular relevancia durante la segunda mitad de la década de 2010, cuando los avances tecnológicos y la creciente utilización de sistemas automatizados impulsaron debates sobre sus riesgos, seguridad, responsabilidad y supervisión institucional.

En junio de 2018, Google publicó sus principios corporativos sobre inteligencia artificial, incorporando criterios de seguridad, responsabilidad, privacidad y supervisión humana. En agosto de ese mismo año, el investigador Allan Dafoe, vinculado a la Universidad de Oxford, publicó AI Governance: A Research Agenda, una propuesta de investigación dedicada a identificar y organizar los principales problemas relacionados con la gobernanza de la inteligencia artificial.

En enero de 2019, Singapur publicó la primera edición de su Model AI Governance Framework, un marco voluntario dirigido a organizaciones privadas para orientar la implementación responsable de sistemas de IA mediante principios, responsabilidades internas y controles operativos.

En el ámbito hispanohablante, la utilización del concepto de gobernanza aplicado a la inteligencia artificial se encuentra documentada en marzo de 2019, cuando la Representación Permanente de España ante la UNESCO publicó una reseña sobre una conferencia internacional dedicada a la inteligencia artificial y sus principios éticos, en la que se abordó expresamente su gobernanza. En mayo de 2019, la OCDE adoptó su Recomendación sobre Inteligencia Artificial, estableciendo principios internacionales para su desarrollo y utilización responsables.

Posteriormente, en septiembre de 2020, el Banco Interamericano de Desarrollo publicó Gobernanza participativa de la inteligencia artificial , en el contexto de los trabajos relacionados con la política nacional de IA de Chile. En noviembre de 2021, la UNESCO adoptó su Recomendación sobre la Ética de la Inteligencia Artificial , incorporando orientaciones internacionales sobre gobernanza, derechos humanos, responsabilidad y supervisión de estas tecnologías.

La expansión pública y comercial de la inteligencia artificial generativa, impulsada especialmente por el lanzamiento de ChatGPT en noviembre de 2022, intensificó los debates sobre su utilización y control. En enero de 2023, el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) publicó su AI Risk Management Framework 1.0, un marco voluntario que organiza la gestión de riesgos mediante cuatro funciones: gobernar, identificar el contexto y los riesgos, medir y gestionar.

Finalmente, en septiembre de 2024, las Naciones Unidas publicaron Gobernanza de la Inteligencia Artificial en beneficio de la Humanidad , un informe dedicado a examinar las deficiencias existentes en los mecanismos internacionales de supervisión y a proponer nuevas formas de cooperación institucional.

Esta evolución permite establecer una distinción fundamental: la denominada gobernanza de la inteligencia artificial no surgió de una única disposición jurídica ni constituye, por su sola denominación, una metodología científica o tecnológica universal. Su desarrollo contemporáneo reúne enfoques de investigación, principios éticos, supervisión institucional, gestión de riesgos y controles organizacionales.

Su aplicación empresarial debe fundamentarse en el conocimiento de las tecnologías utilizadas, la evaluación verificable de sus riesgos, las responsabilidades administrativas y las obligaciones jurídicas efectivamente aplicables.

Naturaleza y fundamentos tecnológicos de la inteligencia artificial:
La inteligencia artificial (IA) constituye un campo de la informática dedicado al desarrollo de métodos y sistemas computacionales capaces de realizar funciones asociadas con el razonamiento, la inferencia, el aprendizaje, el reconocimiento de patrones, la generación de información y la toma de decisiones.

Sus fundamentos comprenden disciplinas como las matemáticas, la lógica, la estadística y las ciencias de la computación, aplicadas mediante diferentes técnicas y arquitecturas tecnológicas.

La inteligencia artificial no corresponde a una tecnología única ni se limita a los modelos generativos actuales. Comprende enfoques basados en conocimientos y reglas de inferencia lógica, así como técnicas de aprendizaje automático (machine learning), aprendizaje profundo (deep learning) y modelos generativos. Estas modalidades presentan diferencias en su funcionamiento, sus necesidades de datos, sus capacidades de procesamiento y sus condiciones de aplicación.

En noviembre de 2023, la OCDE aprobó una actualización de su definición de sistema de IA, explicada en un memorando publicado en marzo de 2024. En ella se caracteriza a estos sistemas por su capacidad de inferir, a partir de la información recibida, cómo producir resultados como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. La definición reconoce, además, diferentes grados de autonomía y adaptación después de su implementación.

Una distinción tecnológica esencial consiste en reconocer que no todo programa informático ni todo proceso automatizado constituye inteligencia artificial . Los sistemas convencionales pueden ejecutar operaciones mediante instrucciones y reglas previamente establecidas, sin incorporar mecanismos de aprendizaje o inferencia característicos de determinadas técnicas de IA. Sin embargo, la inteligencia artificial también puede utilizar reglas y conocimientos formalizados, por lo que la diferencia no depende exclusivamente de la presencia de aprendizaje automático.

Asimismo, debe distinguirse entre un modelo de IA y un sistema de IA. El modelo constituye un componente computacional que puede incorporarse a una aplicación más amplia, mientras que el sistema comprende los elementos necesarios para su funcionamiento y utilización, entre ellos programas, interfaces, mecanismos de procesamiento y otros componentes tecnológicos. Esta distinción permite identificar con mayor precisión qué tecnología utiliza realmente una organización.

Las capacidades de los sistemas de IA tampoco son uniformes ni garantizan, por sí mismas, resultados correctos. Su desempeño depende de factores como los métodos empleados, la calidad y pertinencia de los datos, las características del modelo, las condiciones de funcionamiento y el contexto de utilización. Algunos sistemas pueden producir resultados incorrectos, presentar sesgos o comportarse de manera diferente ante situaciones no consideradas durante su desarrollo o evaluación. Tampoco todos poseen capacidad de aprendizaje continuo después de su implementación.

Estos fundamentos permiten establecer una distinción tecnológica esencial: la inteligencia artificial no constituye un sistema único ni responde a una arquitectura de funcionamiento universal. Sus capacidades y resultados dependen de los métodos computacionales utilizados y de la interacción entre sus diferentes componentes. Comprender estos elementos y sus funciones resulta indispensable para examinar cómo operan los sistemas de inteligencia artificial y cuáles son sus posibilidades y limitaciones técnicas

Componentes y funcionamiento de los sistemas de inteligencia artificial:
El funcionamiento de un sistema de inteligencia artificial depende de la interacción entre distintos componentes computacionales, cuya organización varía según la tecnología empleada y las funciones que debe realizar. Entre los elementos fundamentales se encuentran los datos, los algoritmos, los modelos, los mecanismos de procesamiento y la infraestructura tecnológica que permite ejecutar sus operaciones. Estos componentes no constituyen una arquitectura universal ni intervienen necesariamente de la misma manera en todos los sistemas de IA.

Los datos proporcionan información que los sistemas pueden utilizar para desarrollar o ejecutar determinadas funciones. En los sistemas de aprendizaje automático (machine learning), los conjuntos de datos permiten identificar relaciones y regularidades mediante procedimientos de entrenamiento. Su calidad, representatividad, procedencia y preparación influyen en el comportamiento de los modelos. Sin embargo, debe distinguirse entre los datos utilizados para entrenar un modelo y aquellos que recibe posteriormente durante su funcionamiento.

Los algoritmos constituyen procedimientos computacionales definidos para procesar información y ejecutar operaciones. En inteligencia artificial pueden utilizarse para realizar inferencias lógicas, buscar soluciones, optimizar parámetros, reconocer patrones o producir resultados. Los sistemas basados en conocimientos y reglas representan información mediante estructuras formales y utilizan procedimientos de inferencia para obtener conclusiones. Por su parte, los sistemas de aprendizaje automático emplean métodos matemáticos y estadísticos para ajustar modelos a partir de datos.

El modelo de IA constituye una representación computacional utilizada para realizar determinadas tareas. En el aprendizaje automático, su estructura y parámetros permiten procesar nuevas entradas conforme a las relaciones identificadas durante el entrenamiento. En otros enfoques, pueden utilizarse representaciones explícitas de conocimientos y relaciones lógicas. Por ello, los términos algoritmo y modelo no son equivalentes: el algoritmo describe procedimientos de procesamiento o aprendizaje, mientras que el modelo constituye una representación que puede ser utilizada por esos procedimientos.

El entrenamiento es el proceso mediante el cual un modelo de aprendizaje automático ajusta sus parámetros utilizando datos y métodos de optimización. Durante su desarrollo pueden emplearse conjuntos diferenciados para entrenamiento, validación y pruebas, con el propósito de evaluar su capacidad de funcionamiento ante información no utilizada para ajustar sus parámetros. No todos los sistemas de inteligencia artificial requieren este procedimiento, y una organización puede utilizar modelos previamente entrenados por terceros sin participar en su desarrollo original.

La inferencia comprende los procedimientos mediante los cuales un sistema obtiene resultados a partir de información de entrada y de los mecanismos o representaciones que utiliza. En un modelo de aprendizaje automático previamente entrenado, esta operación permite generar predicciones, clasificaciones, recomendaciones o contenidos a partir de nuevos datos. La inferencia ordinaria no implica necesariamente modificar los parámetros del modelo ni incorporar un nuevo proceso de aprendizaje. En los sistemas simbólicos, la inferencia puede consistir en aplicar reglas lógicas sobre conocimientos formalizados.

La infraestructura tecnológica comprende los recursos necesarios para ejecutar y conectar estos componentes, incluidos equipos de procesamiento, memoria, almacenamiento, programas, interfaces y mecanismos de comunicación. Dependiendo de la arquitectura utilizada, las operaciones pueden realizarse en dispositivos locales, servidores propios o infraestructura de proveedores externos. Asimismo, el funcionamiento de un sistema completo puede requerir procesos adicionales de recopilación y preparación de datos, integración informática, evaluación de resultados y mantenimiento operativo.

Estas diferencias permiten establecer una distinción tecnológica fundamental: un modelo, un algoritmo y un sistema completo de inteligencia artificial no constituyen necesariamente el mismo objeto tecnológico. El funcionamiento efectivo de un sistema depende de cómo se organizan sus componentes, qué operaciones ejecuta cada uno y cuáles son las condiciones técnicas de su utilización.

Comprender esta estructura proporciona la base necesaria para examinar las diferentes modalidades mediante las cuales la inteligencia artificial puede incorporarse a los procesos y aplicaciones de una organización.

Modalidades de utilización e integración empresarial de la inteligencia artificial:
La incorporación de la inteligencia artificial al ámbito empresarial comprende diferentes modalidades de utilización e integración tecnológica, determinadas por las necesidades operativas de cada organización, las características de sus sistemas informáticos y el grado de participación de la IA en sus procesos. Estas modalidades presentan diferencias fundamentales en cuanto a infraestructura, acceso a información, capacidad de ejecución, dependencia de proveedores y responsabilidades de administración tecnológica.

Una primera modalidad corresponde al uso individual de herramientas externas de inteligencia artificial , mediante aplicaciones comerciales a las que los empleados acceden directamente para redactar documentos, analizar información, generar contenidos o apoyar determinadas tareas profesionales. En estos casos, la empresa utiliza las capacidades de un servicio tecnológico, pero no necesariamente ha integrado sus componentes de IA a la infraestructura informática propia. Las operaciones principales se ejecutan en sistemas administrados por el proveedor, mientras que la organización mantiene el control de las actividades que encomienda a sus empleados. Sin embargo, esta modalidad también puede implicar el tratamiento de información empresarial, por lo que su carácter externo no elimina la necesidad de conocer las condiciones de utilización y tratamiento de datos.

Una segunda modalidad consiste en la utilización de funciones de IA incorporadas a plataformas empresariales existentes , como sistemas de gestión de clientes, aplicaciones administrativas, herramientas de comunicación, programas de contabilidad o soluciones de análisis de información. En estos casos, la IA puede operar como un componente de programas que la empresa ya utiliza, sin que sea necesario desarrollar o instalar un modelo propio. Su participación puede limitarse a proporcionar recomendaciones o extenderse a funciones automatizadas dentro de los procesos de trabajo. El alcance real de la integración depende de las funciones habilitadas, los datos a los que tiene acceso y las operaciones que puede ejecutar.

Una tercera modalidad comprende el desarrollo o adaptación de aplicaciones empresariales que incorporan modelos de IA mediante interfaces de programación (API) . Bajo esta arquitectura, una empresa puede desarrollar programas propios y conectarlos con modelos administrados por proveedores externos. Por ejemplo, un sistema corporativo de atención al cliente puede recibir solicitudes, transmitir información pertinente a un servicio de IA, procesar sus resultados y utilizarlos para clasificar consultas, preparar respuestas o actualizar registros internos. La empresa controla la programación y las conexiones que desarrolla, pero el procesamiento del modelo puede continuar dependiendo de una infraestructura externa.

Estas aplicaciones también pueden incorporar mecanismos de consulta de información empresarial, como la generación aumentada mediante recuperación de información (RAG) . Esta técnica permite recuperar documentos o datos pertinentes de fuentes autorizadas y suministrarlos como contexto a un modelo para producir respuestas relacionadas con esa información. Su utilización no implica necesariamente entrenar nuevamente el modelo ni transferirle permanentemente los conocimientos de la empresa. Debe distinguirse el acceso temporal a información durante una operación del entrenamiento o modificación de los parámetros del modelo.

Una cuarta modalidad consiste en la implementación de modelos de IA en infraestructura administrada por la propia organización , ya sea mediante servidores locales, servicios de computación en la nube o entornos tecnológicos especializados. La empresa puede instalar y configurar modelos previamente desarrollados, adaptar determinados componentes o, cuando dispone de los recursos necesarios, desarrollar y entrenar modelos específicos. Esta modalidad ofrece posibilidades distintas de configuración y control operativo, pero exige evaluar los recursos de procesamiento, mantenimiento, seguridad, actualización y personal técnico necesarios. Administrar un modelo en infraestructura propia tampoco significa necesariamente poseer los derechos sobre su tecnología original, ni garantiza por sí mismo la independencia respecto de terceros.

Dentro de estas modalidades pueden incorporarse sistemas de IA basados en agentes , capaces de utilizar herramientas informáticas para ejecutar secuencias de operaciones. A diferencia de una aplicación destinada únicamente a generar información, un sistema de agentes puede conectarse con bases de datos, sistemas de correo electrónico, aplicaciones administrativas o servicios empresariales para consultar registros, preparar transacciones y ejecutar determinadas acciones. Su capacidad operativa depende de la arquitectura implementada, las herramientas disponibles y los permisos asignados. La ejecución autónoma no es una característica obligatoria de todos los agentes, y las operaciones sensibles pueden configurarse para requerir autorización humana previa.

Debe distinguirse, además, entre automatización informática convencional y automatización que incorpora inteligencia artificial . Un proceso empresarial puede ejecutar instrucciones previamente programadas sin utilizar modelos de IA. También puede combinar mecanismos convencionales con componentes inteligentes que clasifican información, interpretan solicitudes o generan resultados utilizados posteriormente por otros programas. Por tanto, la presencia de automatización no demuestra, por sí sola, la existencia de inteligencia artificial, del mismo modo que la utilización de un modelo de IA no significa necesariamente que el sistema pueda ejecutar acciones sobre los recursos de una empresa.

Desde el punto de vista operativo, la distinción entre estas modalidades exige identificar qué componentes pertenecen a la empresa, cuáles son administrados por terceros, dónde se procesan los datos, qué sistemas intercambian información y qué operaciones pueden realizarse sin intervención humana . También requiere determinar quién configura las aplicaciones, administra sus permisos, modifica sus conexiones y responde por su funcionamiento técnico. La contratación de una plataforma, el desarrollo de una aplicación propia y la instalación de un modelo representan configuraciones diferentes, cuyos alcances no deben confundirse.

Estas modalidades permiten establecer una distinción empresarial fundamental: utilizar inteligencia artificial no equivale necesariamente a desarrollar un sistema propio, administrar un modelo ni integrar capacidades de IA a la infraestructura corporativa. Tampoco existe una relación automática entre la complejidad de una implementación y su utilidad empresarial. La modalidad adecuada depende de las funciones requeridas, los recursos disponibles, las características de los procesos y las condiciones técnicas de utilización.

Identificadas estas formas de incorporación, corresponde examinar la infraestructura tecnológica de la organización para determinar qué sistemas posee o utiliza, cómo se relacionan entre sí y cuáles son las condiciones reales de funcionamiento de sus componentes de inteligencia artificial.

Evaluación de la infraestructura tecnológica, la necesidad de inteligencia artificial y los controles empresariales:
La decisión de incorporar inteligencia artificial a una empresa debe partir del conocimiento de sus necesidades operativas y de las capacidades de su infraestructura tecnológica existente. La disponibilidad comercial de herramientas de IA no constituye, por sí misma, una justificación para adoptarlas. Antes de recomendar su implementación, resulta necesario determinar qué problemas pretende resolver la organización, cuáles son sus objetivos y si dispone de medios tecnológicos adecuados para alcanzarlos.

La evaluación inicial comprende un diagnóstico de los procesos empresariales y de la tecnología convencional utilizada . Este examen debe identificar las aplicaciones, bases de datos, sistemas administrativos, recursos informáticos y servicios externos que intervienen en las operaciones de la empresa. También debe establecer sus capacidades, limitaciones, condiciones de mantenimiento y posibles deficiencias. Una organización puede experimentar dificultades operativas que no requieren inteligencia artificial, sino mejoras de programación, automatización convencional, integración de aplicaciones, organización de información o capacitación de sus empleados.

Identificadas las necesidades, corresponde realizar una evaluación comparativa de las alternativas tecnológicas disponibles . La organización debe examinar si puede resolver sus problemas mediante la optimización de sus sistemas actuales, el desarrollo de software convencional o la incorporación de nuevas capacidades de IA. Esta comparación debe considerar la eficacia esperada, los costos de adquisición y mantenimiento, los recursos humanos necesarios, las dependencias tecnológicas y los riesgos asociados. El resultado puede justificar la incorporación de inteligencia artificial o concluir que una solución convencional resulta más adecuada.

Cuando la utilización de IA se considere pertinente, debe evaluarse qué modalidad tecnológica responde a las necesidades identificadas . La empresa puede requerir una herramienta externa de consulta, una función incorporada a una aplicación existente, un sistema desarrollado mediante conexiones API o una implementación más amplia integrada a sus procesos. En cada caso, corresponde identificar los datos utilizados, la infraestructura de procesamiento, las conexiones entre sistemas, las capacidades de ejecución y las responsabilidades técnicas del proveedor y de la organización.

Sin embargo, la evaluación no debe limitarse a los proyectos de incorporación de nuevos sistemas. Muchas organizaciones ya utilizan inteligencia artificial mediante herramientas comerciales de consulta y productividad , como ChatGPT, Claude o Copilot, proporcionadas por la empresa o utilizadas por sus trabajadores. Esta práctica constituye una forma de uso empresarial de IA, aunque no implique el desarrollo de modelos propios ni su integración directa con las aplicaciones corporativas. Por tanto, debe distinguirse entre el uso laboral de herramientas externas y la implementación de sistemas conectados a la infraestructura operativa de la organización.

En estos casos, la evaluación debe considerar qué información introducen los empleados, qué resultados utilizan y qué condiciones de seguridad y autorización se aplican . Por ejemplo, no presenta el mismo alcance una consulta sobre información pública que la introducción de documentos confidenciales, expedientes de clientes o datos personales en una plataforma externa. Asimismo, el uso de una cuenta personal para realizar actividades laborales no convierte automáticamente la información empresarial en propiedad del trabajador. La titularidad de la cuenta, los derechos sobre la información y las facultades de acceso a su contenido constituyen cuestiones distintas, sujetas a las condiciones contractuales y jurídicas correspondientes.

El nivel de exposición y riesgo tecnológico depende principalmente de las funciones realizadas, la sensibilidad de la información, las conexiones autorizadas, la autonomía operativa y las consecuencias posibles de los resultados. Una herramienta utilizada para preparar borradores sujetos a revisión humana puede requerir controles diferentes de los necesarios para un sistema que accede a registros financieros, modifica expedientes, transmite información a terceros o interviene en decisiones que afectan a otras personas. La evaluación debe considerar igualmente los errores posibles, las limitaciones de funcionamiento y las obligaciones específicas que correspondan a la actividad empresarial.

A partir de estos resultados, debe examinarse la suficiencia de los mecanismos existentes de administración y control empresarial . Las organizaciones pueden disponer de políticas de confidencialidad, seguridad informática, protección de datos, autorizaciones de acceso, contratación de proveedores y supervisión del trabajo. Tales mecanismos pueden resultar suficientes para determinados usos de IA o requerir ajustes específicos, como establecer herramientas autorizadas, restringir información que puede compartirse, verificar resultados y definir responsabilidades. La utilización de inteligencia artificial no implica necesariamente la creación de una estructura administrativa independiente.

En cambio, cuando una empresa incorpora sistemas de IA con funciones operativas relevantes, acceso a información sensible, autonomía de ejecución o participación en decisiones de consecuencias significativas, puede resultar necesario establecer mecanismos especializados de evaluación, supervisión y control . Su alcance debe determinarse según las características de cada sistema, los riesgos identificados, la capacidad de los controles existentes y las obligaciones jurídicas aplicables. La necesidad de adoptar una estructura formal de gobernanza de IA debe justificarse mediante esta evaluación, sin presumir que todas las organizaciones requieren el mismo modelo administrativo.

El procedimiento debe concluir con un informe técnico y operativo proporcional a la complejidad de la organización , que identifique sus necesidades, la tecnología existente, las alternativas examinadas, los sistemas de IA utilizados o propuestos, sus capacidades, limitaciones, riesgos y controles disponibles. Cuando corresponda, deberá complementarse con un análisis jurídico de las actividades y tecnologías involucradas. Esta documentación permitirá a la dirección empresarial adoptar decisiones fundamentadas sobre la conveniencia de incorporar IA, mantener los sistemas existentes, modificar sus controles o establecer mecanismos adicionales de supervisión.

Esta evaluación permite establecer una premisa fundamental para el análisis de la gobernanza de la inteligencia artificial: ni la modernización empresarial exige necesariamente incorporar IA, ni la utilización de herramientas de IA justifica automáticamente una estructura especializada de gobernanza. La decisión debe sustentarse en necesidades comprobables, características tecnológicas, riesgos efectivos, suficiencia de los controles existentes y obligaciones aplicables.

A partir de estos fundamentos corresponde examinar la naturaleza de la gobernanza de IA en el ámbito corporativo, sus diferencias respecto del gobierno empresarial ordinario y las circunstancias que pueden justificar su adopción como mecanismo específico de administración y supervisión.

Índice general de la investigación

¿Gobernanza de la inteligencia artificial?

Fundamentos para su pertinente aplicación empresarial

PARTE I — Fundamentos históricos y tecnológicos

Título I. Gobernanza: origen y evolución del concepto hasta la inteligencia artificial

  • Origen
  • Antecedentes jurídico-administrativos
  • Incorporación al ámbito empresarial
  • Aplicación del concepto de gobernanza a la inteligencia artificial

Título II. La inteligencia artificial: fundamentos tecnológicos e incorporación al ámbito empresarial

  • Naturaleza y fundamentos tecnológicos de la inteligencia artificial
  • Componentes y funcionamiento de los sistemas de inteligencia artificial
  • Modalidades de utilización e integración empresarial de la inteligencia artificial
  • Evaluación de la infraestructura tecnológica, la necesidad de inteligencia artificial y los controles empresariales

PARTE II — Fundamentos jurídicos y regulatorios

Título III. Naturaleza jurídica de la gobernanza

Título IV. Leyes, regulaciones y estándares

PARTE III — Aplicación y evaluación empresarial

Título V. Implementación empresarial de la gobernanza de IA

Título VI. Caso práctico de aplicación empresarial

Título VII. Consideraciones finales

Fuentes documentales y bibliografía

I. Gobernanza: origen y evolución del concepto hasta la inteligencia artificial

Origen

Real Academia Española (1803). Diccionario de la lengua castellana. Real Academia Española (2001). Diccionario de la lengua española. 22.ª edición. Huynh-Quan-Suu, Corinne (2001). Étymologie du terme «gouvernance». Comisión Europea. FundéuRAE (2011). «Gobernanza», nuevo uso para un antiguo término español.

Antecedentes jurídico-administrativos

Banco Mundial (1989). Sub-Saharan Africa: From Crisis to Sustainable Growth. Banco Mundial (1991). Managing Development: The Governance Dimension. Banco Mundial (1992). Governance and Development.

Incorporación al ámbito empresarial

Eells, Richard (1960). The Meaning of Modern Business: An Introduction to the Philosophy of Large Corporate Enterprise. Columbia University Press. Eells, Richard (1962). The Government of Corporations. Free Press of Glencoe. Tricker, Bob (1984). Corporate Governance. Gower Publishing. Committee on the Financial Aspects of Corporate Governance (1992). Report of the Committee on the Financial Aspects of Corporate Governance. Informe Cadbury. Comisión Olivencia (1998). El gobierno de las sociedades cotizadas. España. OCDE (1999). Principios de la OCDE para el gobierno de las sociedades.

Aplicación del concepto de gobernanza a la inteligencia artificial

Google (2018). AI at Google: Our Principles. Dafoe, Allan (2018). AI Governance: A Research Agenda. Future of Humanity Institute, Universidad de Oxford. Gobierno de Singapur, IMDA y PDPC (2019). Model AI Governance Framework. Primera edición. Representación Permanente de España ante la UNESCO (2019). Participantes en conferencia mundial sobre la Inteligencia Artificial abogan por una gobernanza que respete los derechos. OCDE (2019). Recommendation of the Council on Artificial Intelligence. Martínez Mancilla, Yolanda y Vega, Marco (2020). Gobernanza participativa de la inteligencia artificial. Banco Interamericano de Desarrollo. UNESCO (2021). Recomendación sobre la Ética de la Inteligencia Artificial. OpenAI (2022). Introducing ChatGPT.
NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Naciones Unidas (2024). Gobernanza de la Inteligencia Artificial en beneficio de la Humanidad. Informe final del Órgano Asesor de Alto Nivel sobre Inteligencia Artificial.