Sus fundamentos comprenden disciplinas
como las matemáticas, la lógica,
la estadística y las ciencias de
la computación, aplicadas mediante
diferentes técnicas y arquitecturas
tecnológicas.
La inteligencia artificial no corresponde
a una tecnología única ni se limita
a los modelos generativos actuales.
Comprende enfoques basados en conocimientos
y reglas de inferencia lógica,
así como técnicas de aprendizaje
automático (machine learning),
aprendizaje profundo
(deep learning) y modelos
generativos. Estas modalidades presentan
diferencias en su funcionamiento,
sus necesidades de datos,
sus capacidades de procesamiento
y sus condiciones de aplicación.
En noviembre de 2023,
la OCDE aprobó una
actualización de su definición de
sistema de IA, explicada en un
memorando publicado en
marzo de 2024.
En ella se caracteriza a estos
sistemas por su capacidad de inferir,
a partir de la información recibida,
cómo producir resultados como
predicciones, contenidos, recomendaciones
o decisiones que pueden influir
en entornos físicos o virtuales.
La definición reconoce, además,
diferentes grados de autonomía
y adaptación después de
su implementación.
Una distinción tecnológica esencial
consiste en reconocer que
no todo programa informático
ni todo proceso automatizado
constituye inteligencia artificial
.
Los sistemas convencionales pueden
ejecutar operaciones mediante instrucciones
y reglas previamente establecidas,
sin incorporar mecanismos de aprendizaje
o inferencia característicos de
determinadas técnicas de IA.
Sin embargo, la inteligencia artificial
también puede utilizar reglas
y conocimientos formalizados,
por lo que la diferencia no depende
exclusivamente de la presencia
de aprendizaje automático.
Asimismo, debe distinguirse entre
un modelo de IA
y un sistema de IA.
El modelo constituye un componente
computacional que puede incorporarse
a una aplicación más amplia,
mientras que el sistema comprende
los elementos necesarios para
su funcionamiento y utilización,
entre ellos programas, interfaces,
mecanismos de procesamiento
y otros componentes tecnológicos.
Esta distinción permite identificar
con mayor precisión qué tecnología
utiliza realmente una organización.
Las capacidades de los sistemas de IA
tampoco son uniformes ni garantizan,
por sí mismas, resultados correctos.
Su desempeño depende de factores
como los métodos empleados,
la calidad y pertinencia de los datos,
las características del modelo,
las condiciones de funcionamiento
y el contexto de utilización.
Algunos sistemas pueden producir
resultados incorrectos, presentar
sesgos o comportarse de manera
diferente ante situaciones no
consideradas durante su desarrollo
o evaluación. Tampoco todos poseen
capacidad de aprendizaje continuo
después de su implementación.
Estos fundamentos permiten establecer
una distinción tecnológica esencial:
la inteligencia artificial no constituye
un sistema único ni responde a una
arquitectura de funcionamiento universal.
Sus capacidades y resultados dependen
de los métodos computacionales utilizados
y de la interacción entre sus diferentes
componentes. Comprender estos elementos
y sus funciones resulta indispensable
para examinar cómo operan los sistemas
de inteligencia artificial y cuáles son
sus posibilidades y limitaciones técnicas
Componentes y funcionamiento
de los sistemas de inteligencia
artificial:
El funcionamiento de un sistema
de inteligencia artificial depende
de la interacción entre distintos
componentes computacionales,
cuya organización varía según
la tecnología empleada y las
funciones que debe realizar.
Entre los elementos fundamentales
se encuentran los datos,
los algoritmos, los modelos,
los mecanismos de procesamiento
y la infraestructura tecnológica
que permite ejecutar sus operaciones.
Estos componentes no constituyen
una arquitectura universal ni
intervienen necesariamente de
la misma manera en todos
los sistemas de IA.
Los datos
proporcionan información que
los sistemas pueden utilizar para
desarrollar o ejecutar determinadas
funciones. En los sistemas de
aprendizaje automático
(machine learning),
los conjuntos de datos permiten
identificar relaciones y regularidades
mediante procedimientos de entrenamiento.
Su calidad, representatividad,
procedencia y preparación influyen
en el comportamiento de los modelos.
Sin embargo, debe distinguirse entre
los datos utilizados para entrenar
un modelo y aquellos que recibe
posteriormente durante su funcionamiento.
Los algoritmos
constituyen procedimientos computacionales
definidos para procesar información
y ejecutar operaciones.
En inteligencia artificial pueden
utilizarse para realizar inferencias
lógicas, buscar soluciones,
optimizar parámetros, reconocer
patrones o producir resultados.
Los sistemas basados en conocimientos
y reglas representan información
mediante estructuras formales
y utilizan procedimientos de inferencia
para obtener conclusiones.
Por su parte, los sistemas de aprendizaje
automático emplean métodos matemáticos
y estadísticos para ajustar modelos
a partir de datos.
El modelo de IA
constituye una representación
computacional utilizada para realizar
determinadas tareas. En el aprendizaje
automático, su estructura y parámetros
permiten procesar nuevas entradas
conforme a las relaciones identificadas
durante el entrenamiento.
En otros enfoques, pueden utilizarse
representaciones explícitas de
conocimientos y relaciones lógicas.
Por ello, los términos algoritmo
y modelo no son equivalentes:
el algoritmo describe procedimientos
de procesamiento o aprendizaje,
mientras que el modelo constituye
una representación que puede ser
utilizada por esos procedimientos.
El entrenamiento
es el proceso mediante el cual
un modelo de aprendizaje automático
ajusta sus parámetros utilizando
datos y métodos de optimización.
Durante su desarrollo pueden emplearse
conjuntos diferenciados para entrenamiento,
validación y pruebas, con el propósito
de evaluar su capacidad de funcionamiento
ante información no utilizada para
ajustar sus parámetros.
No todos los sistemas de inteligencia
artificial requieren este procedimiento,
y una organización puede utilizar
modelos previamente entrenados
por terceros sin participar
en su desarrollo original.
La inferencia
comprende los procedimientos mediante
los cuales un sistema obtiene resultados
a partir de información de entrada
y de los mecanismos o representaciones
que utiliza. En un modelo de aprendizaje
automático previamente entrenado,
esta operación permite generar
predicciones, clasificaciones,
recomendaciones o contenidos
a partir de nuevos datos.
La inferencia ordinaria no implica
necesariamente modificar los parámetros
del modelo ni incorporar un nuevo
proceso de aprendizaje.
En los sistemas simbólicos,
la inferencia puede consistir
en aplicar reglas lógicas
sobre conocimientos formalizados.
La infraestructura tecnológica
comprende los recursos necesarios
para ejecutar y conectar estos
componentes, incluidos equipos
de procesamiento, memoria,
almacenamiento, programas, interfaces
y mecanismos de comunicación.
Dependiendo de la arquitectura utilizada,
las operaciones pueden realizarse
en dispositivos locales, servidores
propios o infraestructura de
proveedores externos.
Asimismo, el funcionamiento de
un sistema completo puede requerir
procesos adicionales de recopilación
y preparación de datos,
integración informática,
evaluación de resultados
y mantenimiento operativo.
Estas diferencias permiten establecer
una distinción tecnológica fundamental:
un modelo, un algoritmo y un sistema
completo de inteligencia artificial
no constituyen necesariamente el mismo
objeto tecnológico.
El funcionamiento efectivo de un sistema
depende de cómo se organizan sus componentes,
qué operaciones ejecuta cada uno
y cuáles son las condiciones técnicas
de su utilización.
Comprender esta estructura proporciona
la base necesaria para examinar
las diferentes modalidades mediante
las cuales la inteligencia artificial
puede incorporarse a los procesos
y aplicaciones de una organización.
Modalidades de utilización
e integración empresarial
de la inteligencia artificial:
La incorporación de la inteligencia
artificial al ámbito empresarial
comprende diferentes modalidades
de utilización e integración tecnológica,
determinadas por las necesidades
operativas de cada organización,
las características de sus sistemas
informáticos y el grado de participación
de la IA en sus procesos.
Estas modalidades presentan diferencias
fundamentales en cuanto a infraestructura,
acceso a información, capacidad de ejecución,
dependencia de proveedores y responsabilidades
de administración tecnológica.
Una primera modalidad corresponde al
uso individual de herramientas
externas de inteligencia artificial
,
mediante aplicaciones comerciales
a las que los empleados acceden
directamente para redactar documentos,
analizar información, generar contenidos
o apoyar determinadas tareas profesionales.
En estos casos, la empresa utiliza
las capacidades de un servicio tecnológico,
pero no necesariamente ha integrado
sus componentes de IA a la infraestructura
informática propia. Las operaciones
principales se ejecutan en sistemas
administrados por el proveedor,
mientras que la organización mantiene
el control de las actividades que
encomienda a sus empleados.
Sin embargo, esta modalidad también
puede implicar el tratamiento de
información empresarial, por lo que
su carácter externo no elimina la
necesidad de conocer las condiciones
de utilización y tratamiento de datos.
Una segunda modalidad consiste en la
utilización de funciones de IA
incorporadas a plataformas
empresariales existentes
,
como sistemas de gestión de clientes,
aplicaciones administrativas,
herramientas de comunicación,
programas de contabilidad o soluciones
de análisis de información.
En estos casos, la IA puede operar
como un componente de programas
que la empresa ya utiliza,
sin que sea necesario desarrollar
o instalar un modelo propio.
Su participación puede limitarse
a proporcionar recomendaciones
o extenderse a funciones automatizadas
dentro de los procesos de trabajo.
El alcance real de la integración
depende de las funciones habilitadas,
los datos a los que tiene acceso
y las operaciones que puede ejecutar.
Una tercera modalidad comprende el
desarrollo o adaptación de aplicaciones
empresariales que incorporan modelos
de IA mediante interfaces
de programación (API)
.
Bajo esta arquitectura, una empresa
puede desarrollar programas propios
y conectarlos con modelos administrados
por proveedores externos.
Por ejemplo, un sistema corporativo
de atención al cliente puede recibir
solicitudes, transmitir información
pertinente a un servicio de IA,
procesar sus resultados y utilizarlos
para clasificar consultas, preparar
respuestas o actualizar registros internos.
La empresa controla la programación
y las conexiones que desarrolla,
pero el procesamiento del modelo
puede continuar dependiendo de
una infraestructura externa.
Estas aplicaciones también pueden
incorporar mecanismos de consulta
de información empresarial,
como la
generación aumentada mediante
recuperación de información (RAG)
.
Esta técnica permite recuperar documentos
o datos pertinentes de fuentes autorizadas
y suministrarlos como contexto a un modelo
para producir respuestas relacionadas
con esa información. Su utilización
no implica necesariamente entrenar
nuevamente el modelo ni transferirle
permanentemente los conocimientos
de la empresa. Debe distinguirse
el acceso temporal a información
durante una operación del entrenamiento
o modificación de los parámetros del modelo.
Una cuarta modalidad consiste en la
implementación de modelos de IA
en infraestructura administrada
por la propia organización
,
ya sea mediante servidores locales,
servicios de computación en la nube
o entornos tecnológicos especializados.
La empresa puede instalar y configurar
modelos previamente desarrollados,
adaptar determinados componentes o,
cuando dispone de los recursos necesarios,
desarrollar y entrenar modelos específicos.
Esta modalidad ofrece posibilidades
distintas de configuración y control operativo,
pero exige evaluar los recursos de procesamiento,
mantenimiento, seguridad, actualización
y personal técnico necesarios.
Administrar un modelo en infraestructura
propia tampoco significa necesariamente
poseer los derechos sobre su tecnología
original, ni garantiza por sí mismo
la independencia respecto de terceros.
Dentro de estas modalidades pueden
incorporarse
sistemas de IA basados en agentes
,
capaces de utilizar herramientas informáticas
para ejecutar secuencias de operaciones.
A diferencia de una aplicación destinada
únicamente a generar información,
un sistema de agentes puede conectarse
con bases de datos, sistemas de correo
electrónico, aplicaciones administrativas
o servicios empresariales para consultar
registros, preparar transacciones y ejecutar
determinadas acciones.
Su capacidad operativa depende de
la arquitectura implementada,
las herramientas disponibles
y los permisos asignados.
La ejecución autónoma no es una
característica obligatoria de todos
los agentes, y las operaciones sensibles
pueden configurarse para requerir
autorización humana previa.
Debe distinguirse, además, entre
automatización informática convencional
y automatización que incorpora
inteligencia artificial
.
Un proceso empresarial puede ejecutar
instrucciones previamente programadas
sin utilizar modelos de IA.
También puede combinar mecanismos
convencionales con componentes inteligentes
que clasifican información,
interpretan solicitudes o generan
resultados utilizados posteriormente
por otros programas.
Por tanto, la presencia de automatización
no demuestra, por sí sola, la existencia
de inteligencia artificial,
del mismo modo que la utilización
de un modelo de IA no significa
necesariamente que el sistema pueda
ejecutar acciones sobre los recursos
de una empresa.
Desde el punto de vista operativo,
la distinción entre estas modalidades
exige identificar
qué componentes pertenecen a la empresa,
cuáles son administrados por terceros,
dónde se procesan los datos,
qué sistemas intercambian información
y qué operaciones pueden realizarse
sin intervención humana
.
También requiere determinar quién configura
las aplicaciones, administra sus permisos,
modifica sus conexiones y responde
por su funcionamiento técnico.
La contratación de una plataforma,
el desarrollo de una aplicación propia
y la instalación de un modelo representan
configuraciones diferentes,
cuyos alcances no deben confundirse.
Estas modalidades permiten establecer
una distinción empresarial fundamental:
utilizar inteligencia artificial
no equivale necesariamente a desarrollar
un sistema propio, administrar un modelo
ni integrar capacidades de IA a
la infraestructura corporativa.
Tampoco existe una relación automática
entre la complejidad de una implementación
y su utilidad empresarial.
La modalidad adecuada depende de las
funciones requeridas, los recursos
disponibles, las características
de los procesos y las condiciones
técnicas de utilización.
Identificadas estas formas de incorporación,
corresponde examinar la infraestructura
tecnológica de la organización
para determinar qué sistemas posee
o utiliza, cómo se relacionan entre sí
y cuáles son las condiciones reales
de funcionamiento de sus componentes
de inteligencia artificial.
Evaluación de la infraestructura
tecnológica, la necesidad de inteligencia
artificial y los controles empresariales:
La decisión de incorporar inteligencia
artificial a una empresa debe partir
del conocimiento de sus necesidades
operativas y de las capacidades de
su infraestructura tecnológica existente.
La disponibilidad comercial de herramientas
de IA no constituye, por sí misma,
una justificación para adoptarlas.
Antes de recomendar su implementación,
resulta necesario determinar qué problemas
pretende resolver la organización,
cuáles son sus objetivos y si dispone
de medios tecnológicos adecuados
para alcanzarlos.
La evaluación inicial comprende un
diagnóstico de los procesos empresariales
y de la tecnología convencional utilizada
.
Este examen debe identificar las aplicaciones,
bases de datos, sistemas administrativos,
recursos informáticos y servicios externos
que intervienen en las operaciones
de la empresa. También debe establecer
sus capacidades, limitaciones,
condiciones de mantenimiento
y posibles deficiencias.
Una organización puede experimentar
dificultades operativas que no requieren
inteligencia artificial, sino mejoras
de programación, automatización convencional,
integración de aplicaciones,
organización de información
o capacitación de sus empleados.
Identificadas las necesidades,
corresponde realizar una
evaluación comparativa de las alternativas
tecnológicas disponibles
.
La organización debe examinar si puede
resolver sus problemas mediante
la optimización de sus sistemas actuales,
el desarrollo de software convencional
o la incorporación de nuevas capacidades
de IA. Esta comparación debe considerar
la eficacia esperada, los costos de
adquisición y mantenimiento,
los recursos humanos necesarios,
las dependencias tecnológicas
y los riesgos asociados.
El resultado puede justificar
la incorporación de inteligencia artificial
o concluir que una solución convencional
resulta más adecuada.
Cuando la utilización de IA se considere
pertinente, debe evaluarse
qué modalidad tecnológica responde
a las necesidades identificadas
.
La empresa puede requerir una herramienta
externa de consulta, una función incorporada
a una aplicación existente, un sistema
desarrollado mediante conexiones API
o una implementación más amplia integrada
a sus procesos. En cada caso,
corresponde identificar los datos utilizados,
la infraestructura de procesamiento,
las conexiones entre sistemas,
las capacidades de ejecución
y las responsabilidades técnicas
del proveedor y de la organización.
Sin embargo, la evaluación no debe
limitarse a los proyectos de incorporación
de nuevos sistemas. Muchas organizaciones
ya utilizan inteligencia artificial
mediante herramientas comerciales
de consulta y productividad
,
como ChatGPT, Claude o Copilot,
proporcionadas por la empresa
o utilizadas por sus trabajadores.
Esta práctica constituye una forma
de uso empresarial de IA, aunque
no implique el desarrollo de modelos
propios ni su integración directa
con las aplicaciones corporativas.
Por tanto, debe distinguirse entre
el uso laboral de herramientas externas
y la implementación de sistemas conectados
a la infraestructura operativa
de la organización.
En estos casos, la evaluación debe
considerar
qué información introducen los empleados,
qué resultados utilizan y qué condiciones
de seguridad y autorización se aplican
.
Por ejemplo, no presenta el mismo alcance
una consulta sobre información pública
que la introducción de documentos
confidenciales, expedientes de clientes
o datos personales en una plataforma externa.
Asimismo, el uso de una cuenta personal
para realizar actividades laborales
no convierte automáticamente la información
empresarial en propiedad del trabajador.
La titularidad de la cuenta,
los derechos sobre la información
y las facultades de acceso a su contenido
constituyen cuestiones distintas,
sujetas a las condiciones contractuales
y jurídicas correspondientes.
El nivel de exposición
y riesgo tecnológico
depende principalmente de las funciones
realizadas, la sensibilidad de la información,
las conexiones autorizadas,
la autonomía operativa y las consecuencias
posibles de los resultados.
Una herramienta utilizada para preparar
borradores sujetos a revisión humana
puede requerir controles diferentes
de los necesarios para un sistema
que accede a registros financieros,
modifica expedientes, transmite información
a terceros o interviene en decisiones
que afectan a otras personas.
La evaluación debe considerar igualmente
los errores posibles, las limitaciones
de funcionamiento y las obligaciones
específicas que correspondan
a la actividad empresarial.
A partir de estos resultados,
debe examinarse
la suficiencia de los mecanismos
existentes de administración
y control empresarial
.
Las organizaciones pueden disponer
de políticas de confidencialidad,
seguridad informática, protección de datos,
autorizaciones de acceso,
contratación de proveedores
y supervisión del trabajo.
Tales mecanismos pueden resultar suficientes
para determinados usos de IA
o requerir ajustes específicos,
como establecer herramientas autorizadas,
restringir información que puede compartirse,
verificar resultados y definir responsabilidades.
La utilización de inteligencia artificial
no implica necesariamente la creación
de una estructura administrativa independiente.
En cambio, cuando una empresa incorpora
sistemas de IA con funciones operativas
relevantes, acceso a información sensible,
autonomía de ejecución o participación
en decisiones de consecuencias significativas,
puede resultar necesario establecer
mecanismos especializados de evaluación,
supervisión y control
.
Su alcance debe determinarse según
las características de cada sistema,
los riesgos identificados,
la capacidad de los controles existentes
y las obligaciones jurídicas aplicables.
La necesidad de adoptar una estructura
formal de gobernanza de IA debe justificarse
mediante esta evaluación,
sin presumir que todas las organizaciones
requieren el mismo modelo administrativo.
El procedimiento debe concluir con un
informe técnico y operativo proporcional
a la complejidad de la organización
,
que identifique sus necesidades,
la tecnología existente,
las alternativas examinadas,
los sistemas de IA utilizados o propuestos,
sus capacidades, limitaciones,
riesgos y controles disponibles.
Cuando corresponda, deberá complementarse
con un análisis jurídico de las actividades
y tecnologías involucradas.
Esta documentación permitirá a la dirección
empresarial adoptar decisiones fundamentadas
sobre la conveniencia de incorporar IA,
mantener los sistemas existentes,
modificar sus controles o establecer
mecanismos adicionales de supervisión.
Esta evaluación permite establecer
una premisa fundamental para el análisis
de la gobernanza de la inteligencia artificial:
ni la modernización empresarial exige
necesariamente incorporar IA,
ni la utilización de herramientas de IA
justifica automáticamente una estructura
especializada de gobernanza.
La decisión debe sustentarse
en necesidades comprobables,
características tecnológicas,
riesgos efectivos, suficiencia
de los controles existentes
y obligaciones aplicables.
A partir de estos fundamentos corresponde
examinar la naturaleza de la gobernanza
de IA en el ámbito corporativo,
sus diferencias respecto del gobierno
empresarial ordinario y las circunstancias
que pueden justificar su adopción
como mecanismo específico de
administración y supervisión.