La IA agéntica expone las limitaciones de las empresas para proteger sus datos
La adopción de agentes de IA avanza más rápido que la capacidad de las organizaciones para controlar sus acciones, contener fallos y recuperar los datos afectados.
El 88% de las empresas utiliza o está probando agentes de inteligencia artificial, pero solo el 40% de los responsables de estas implementaciones confía en poder aislar y revertir con precisión un fallo relacionado con estos sistemas. La diferencia refleja los desafíos que enfrentan las organizaciones para supervisar tecnologías que acceden a información y aplicaciones críticas y pueden ejecutar acciones de manera autónoma.
Ante este escenario, Veeam Software presentó Agent Commander, una solución orientada a gestionar los riesgos que la inteligencia artificial agéntica plantea para los datos empresariales. La propuesta busca facilitar la identificación de los agentes, la supervisión de sus interacciones con la información y la respuesta ante comportamientos que se desvíen de lo esperado.
Las dificultades para responder a estos incidentes se suman a las limitaciones que ya existen en materia de recuperación de información. El informe Data and AI Trust Gap, de Veeam, señala que, aunque la adopción de agentes de IA está creciendo, la confianza en la capacidad de revertir sus fallos sigue siendo limitada.
Por su parte, el estudio Data Trust and Resilience revela que solo el 28% de las empresas afectadas por ransomware logró recuperar por completo los datos comprometidos.
Los desafíos de la resiliencia de datos.
La velocidad con la que los agentes de IA pueden actuar sobre grandes volúmenes de información plantea desafíos que van más allá de los modelos tradicionales de protección y recuperación. Una desviación aparentemente menor puede propagarse rápidamente y afectar datos, sistemas y procesos relevantes para el negocio.
En este contexto, las organizaciones necesitan comprender cómo interactúan estos sistemas con su información, detectar comportamientos anómalos, limitar su alcance y responder de forma precisa cuando se presenta un incidente.
Esto implica complementar la protección y recuperación de datos con capacidades de supervisión sobre las acciones que ejecutan los agentes.
“En la era agéntica, las organizaciones necesitan evolucionar de una visión reactiva de la protección de datos hacia un enfoque que les permita comprender qué está haciendo la IA, sobre qué información actúa y qué sucede cuando su comportamiento se desvía de lo esperado. No se trata únicamente de controlar a los agentes, sino de contar con las capacidades necesarias para detectar, proteger y contrarrestar los riesgos antes de que una anomalía genere un impacto mayor”, afirmó Javier Castrillón, gerente de Ventas Territoriales de Veeam en Colombia.
Tres capacidades para gestionar riesgos.
Agent Commander plantea un enfoque basado en tres capacidades para gestionar la interacción entre los agentes de IA y los datos empresariales:
Detectar: identificar qué agentes existen, qué datos utilizan, a qué sistemas acceden y cuándo su comportamiento se aleja de los parámetros establecidos.
Proteger: aplicar controles, políticas y límites de acceso para reducir la exposición de los datos frente a personas, aplicaciones y agentes de IA.
Deshacer: responder ante un incidente y recuperar de forma precisa información limpia y confiable, sin depender exclusivamente de la explicación proporcionada por el agente o el sistema afectado.
La gobernanza frente a la adopción.
La expansión de la IA agéntica también plantea interrogantes sobre la capacidad de las organizaciones para aplicar controles efectivos. Aunque las empresas están incrementando sus inversiones en gobernanza de inteligencia artificial, todavía existe una brecha entre las políticas definidas y su implementación operativa.
En este contexto, Gartner prevé que más del 40% de los proyectos de IA agéntica se cancelará antes de finalizar 2027, debido al aumento de los costos, la falta de claridad sobre su valor empresarial o la insuficiencia de los controles de riesgo.
Esta previsión pone de relieve la importancia de desarrollar marcos de gobernanza que no se limiten a establecer qué pueden hacer los agentes. También deben permitir identificarlos, supervisar su actividad, restringir sus accesos y responder cuando sus acciones se aparten de los parámetros establecidos.
A medida que los agentes de IA dejan atrás la fase experimental y comienzan a participar en procesos cada vez más relevantes para el negocio, la confianza en los datos adquiere mayor importancia para las organizaciones que buscan ampliar su utilización.
La adopción de inteligencia artificial agéntica incorpora así nuevas exigencias para la resiliencia empresarial. Además de las copias de seguridad y los controles de acceso, las organizaciones necesitan visibilidad sobre las interacciones de estos sistemas con su información y capacidad para responder cuando su comportamiento se desvía de lo esperado.
|
|
| Recomendados | ||
|
|
| Debes saber esto | ||
