La autonomía de la IA plantea nuevos desafíos de confianza digital
La adopción de inteligencia artificial avanza en las empresas, pero la gobernanza de los agentes autónomos todavía presenta brechas. Un estudio internacional dimensiona el nivel de preparación de las organizaciones frente a esta tecnología.
Solo el 21 % de las organizaciones encuestadas a nivel internacional cuenta con un modelo maduro de gobierno para agentes autónomos de inteligencia artificial, según el informe The State of AI in the Enterprise 2026, de Deloitte. El estudio consultó a 3.235 líderes empresariales y de tecnología en 24 países y expone los desafíos de gobernanza que acompañan la expansión de sistemas capaces de ejecutar acciones de forma autónoma.
En Colombia, la incorporación de esta tecnología también avanza. Según cifras de la Superintendencia Financiera de Colombia, el 81 % de los establecimientos de crédito encuestados utilizaba inteligencia artificial en sus procesos durante 2025. Sin embargo, este indicador no significa que las entidades ya estén empleando agentes autónomos para ejecutar transacciones.
La expansión de la automatización abre una nueva discusión sobre la confianza digital: cómo garantizar que las actuaciones de un sistema de inteligencia artificial sean legítimas, estén autorizadas y puedan comprobarse cuando ejecuta tareas en nombre de una persona o una organización.
La verificación va más allá del cliente.
A medida que estos sistemas asumen funciones más complejas, podrían gestionar solicitudes, contratar servicios e iniciar operaciones bajo instrucciones previamente definidas. En estos escenarios, verificar la identidad del cliente sigue siendo necesario, pero no basta para establecer quién ejecutó una acción, a quién representa el agente y cuáles eran los límites de su autorización.
Esta evolución exige mecanismos que permitan identificar a los agentes, delimitar sus permisos, supervisar sus decisiones y conservar evidencia verificable de las operaciones realizadas.
En este contexto, Namirial plantea ampliar el modelo KYC (Know Your Customer o conoce a tu cliente) hacia el KYA (Know Your Agent o conoce a tu agente). Este enfoque busca responder cuatro preguntas: quién es el agente de inteligencia artificial, a quién representa, qué está autorizado a hacer y cómo se puede demostrar lo que hizo.
El modelo KYC se ha consolidado como un mecanismo para verificar la identidad de los clientes, especialmente en el sector financiero. Sin embargo, cuando una operación es iniciada o ejecutada por un agente de IA, se requieren controles adicionales que permitan vincular sus actuaciones con una persona o empresa previamente verificada.
Identidad, permisos y trazabilidad.
Desde la perspectiva de Namirial, el enfoque KYA contempla cuatro elementos: la identidad, para autenticar al agente que realiza la acción; la representación, para comprobar a qué persona o empresa está vinculado; la autorización, para definir qué operaciones puede ejecutar, bajo qué condiciones y cuándo necesita aprobación humana; y la trazabilidad, para conservar registros de las acciones realizadas y las autorizaciones asociadas.
Un ejemplo de este esquema sería autorizar a un agente de IA para contratar un servicio dentro de un presupuesto determinado. Si la operación supera el límite establecido, el sistema debería solicitar una aprobación adicional antes de continuar. De esta manera, la automatización puede avanzar sin que el titular pierda el control sobre las decisiones que toma en su nombre.
“A medida que la inteligencia artificial adquiere mayores capacidades para actuar en nombre de personas y empresas, la confianza digital debe evolucionar con ella. Ya no se trata únicamente de verificar quién inicia una operación, sino de garantizar que el agente que la ejecuta esté debidamente identificado, tenga una autorización clara y deje evidencia verificable de sus actuaciones”, señala Elías Barzallo, CEO de Namirial para Colombia y Ecuador.
El contexto del fraude digital.
El fortalecimiento de los mecanismos de confianza también está relacionado con los riesgos de suplantación de identidad y fraude digital. En Colombia, la Ley 2502 de 2025 introdujo disposiciones relacionadas con la falsedad personal cometida mediante inteligencia artificial, un antecedente relevante en la discusión sobre el uso indebido de esta tecnología.
Aunque esta norma no constituye una regulación integral de los agentes autónomos, sí permite contextualizar la importancia de proteger la identidad y prevenir la suplantación en los entornos digitales.
El desafío para las organizaciones será aprovechar las capacidades de la inteligencia artificial sin perder el control sobre quién actúa en su nombre, qué autorizaciones tiene cada agente y cómo pueden verificarse las decisiones que ejecuta.
|
|
| Recomendados | ||
|
|
| Debes saber esto | ||
