Agentes de IA Están Por Todas Partes — Pero ¿Quién Controla Lo Que Hacen?
Los agentes de inteligencia artificial están dejando de ser una promesa lejana y se están convirtiendo en parte del día a día de las empresas. Agendan reuniones, procesan documentos, toman decisiones automatizadas e incluso interactúan con clientes en tiempo real. Pero cuanto más espacio ganan estos agentes dentro de las organizaciones, más una pregunta urgente aparece en el centro de las discusiones: ¿quién controla lo que estos agentes pueden hacer y a qué pueden acceder?
Fue exactamente esa cuestión la que movió el debate en el Axios Live Expert Voices, una mesa redonda realizada en Washington el 21 de abril, moderada por la periodista Sam Sabin y patrocinada por Okta. En el encuentro, líderes de ciberseguridad de empresas como Mastercard, IBM, Keyfactor, Illumio y Rook9 se sentaron a la mesa para hablar sobre un tema que le está quitando el sueño a mucha gente en el sector tecnológico.
La agenda fue directa: identidad de los agentes de IA, control de acceso sobre lo que pueden o no hacer, y la seguridad de las organizaciones que los adoptan, además de los clientes que interactúan con ellos. La conversación fue sin rodeos, y las conclusiones dejaron claro que este debate ya no es una charla para el futuro — es urgente ahora. 🔐
El Problema Real: Los Agentes de IA Son Entidades Sin Identidad Definida
Cuando un empleado entra en una empresa, pasa por un proceso de autenticación, recibe credenciales, tiene permisos definidos y responde por sus acciones. Con los agentes de inteligencia artificial, ese proceso todavía es nebuloso. Ejecutan tareas, acceden a sistemas, consultan bases de datos e interactúan con APIs externas — pero en muchos casos, sin una identidad clara y rastreable.
Esto crea una brecha peligrosa: si el agente toma una decisión errónea o accede a algo que no debería, ¿quién responde por eso? ¿La empresa? ¿El desarrollador? ¿El sistema de IA en sí? Esa falta de claridad fue uno de los puntos centrales planteados en la mesa redonda.
Ellen Boehm, vicepresidenta sénior de innovación en identidad de IoT e IA en Keyfactor, aportó una perspectiva bastante esclarecedora durante la conversación. Según ella, los agentes de IA deben ser tratados como una nueva carga de trabajo dentro del entorno corporativo. Son entidades que reciben permisos para ejecutar tareas específicas, pero que necesitan ser autenticadas y limitadas a determinados sistemas y conjuntos de datos. En sus palabras, no es necesario reinventar las políticas que ya existen para el entorno corporativo — el desafío es la escala, porque estos agentes pueden ser creados y descartados rápidamente, generando un orden de magnitud mucho mayor en volumen de identidades a gestionar.
Los especialistas presentes en el evento destacaron que el crecimiento acelerado del uso de agentes en las operaciones corporativas creó una especie de zona gris en la gestión de acceso e identidad. A diferencia de un software tradicional, que ejecuta tareas bien definidas dentro de parámetros fijos, un agente de IA puede tomar caminos imprevisibles para alcanzar un objetivo. Puede, por ejemplo, buscar información en fuentes que no estaban previstas, compartir datos con otros sistemas o realizar acciones en cadena que cruzan múltiples plataformas. Sin una política clara de identidad y control, esto se convierte en un riesgo real de seguridad para cualquier organización.
La analogía usada por algunos de los participantes fue precisa: tratar a un agente de IA como si fuera solo un software es el mismo error que tratar a un robot industrial como si fuera una calculadora. La complejidad es completamente diferente, y las políticas de seguridad necesitan acompañar esa complejidad. Esto significa que las empresas necesitan empezar a pensar en cómo atribuir una identidad funcional a estos agentes, con permisos granulares, rastreabilidad de acciones y límites bien definidos de hasta dónde pueden llegar dentro de los sistemas corporativos. 🤖
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
LLMs y el Comercio Agéntico: El Caso de Mastercard
Uno de los puntos más interesantes planteados en el evento vino de Kaushik Gopal, vicepresidente ejecutivo de insights e inteligencia de Mastercard. Explicó que los modelos de lenguaje de gran escala, los famosos LLMs, están impulsando el recorrido agéntico en la industria de pagos. Los clientes de la empresa ven estas tecnologías tanto como un multiplicador de fuerza como un riesgo.
Esto tiene todo el sentido cuando piensas en el contexto: imagina un agente de IA realizando transacciones financieras en nombre de un usuario. En ese escenario, tres elementos son absolutamente esenciales — la intención detrás de la acción, el consentimiento del usuario y la identidad verificable del agente. A medida que el comercio agéntico se hace más presente, estos tres pilares necesitan estar solidificados para que el ecosistema funcione de forma confiable.
Gopal destacó que estas preocupaciones están en lo más alto de la lista de prioridades de los clientes de Mastercard. Y no es para menos. Cuando hablamos de dinero, cualquier falla de identidad o acceso indebido puede tener consecuencias financieras y legales enormes. El mensaje fue claro: la industria de pagos ya entendió que los agentes de IA necesitan operar dentro de límites estrictos, y que la infraestructura de identidad necesita evolucionar para dar cuenta de esta nueva realidad.
Los Gestores de Personas Ahora También Son Gestores de Bots
Otro punto destacado de la mesa redonda fue la intervención de Anne Marie Zettlemoyer, CSO de Rook9, quien trajo una reflexión que toma por sorpresa a mucha gente. Según ella, el rol de cualquier gestor ahora no es solo gestionar personas — es gestionar agentes de IA también. Y la mayoría de los gestores está completamente desprevenida para esto.
Zettlemoyer explicó que la presión viene de arriba. Los consejos de administración y los líderes de las empresas están mandando a adoptar IA lo más rápido posible, creando una carrera al mercado. Pero enseguida viene el freno: ¿cómo garantizar que el acceso concedido al agente no es solo seguro, sino también intencional? Esa tensión entre velocidad de adopción y responsabilidad en la configuración de permisos es uno de los mayores desafíos que enfrentan las organizaciones en este momento.
Es un cambio cultural significativo. Un gestor de equipo ahora necesita entender no solo las competencias de sus colaboradores humanos, sino también las capacidades, limitaciones y riesgos de los agentes de IA que operan bajo su responsabilidad. Esto exige una nueva mentalidad y, probablemente, nuevos procesos de gobernanza interna que todavía se están inventando. 🧠
Acceso Controlado: La Frontera Que Todavía Se Está Construyendo
Uno de los temas que dominó buena parte de la conversación en la mesa redonda fue justamente la cuestión del control de acceso. Cuando hablamos de humanos en un entorno corporativo, ya existe un marco razonablemente bien establecido de políticas de acceso basadas en roles, autenticación multifactor y revisiones periódicas de permisos. Pero cuando el tema son los agentes de inteligencia artificial, ese marco prácticamente no existe o se está construyendo desde cero.
Empresas como Okta, que patrocinó el evento, están trabajando justamente en esa dirección: crear capas de identidad y acceso que tengan sentido para entidades no humanas que operan de forma autónoma dentro de sistemas críticos. Harish Peri, vicepresidente sénior y gerente general de seguridad de IA de Okta, hizo observaciones contundentes en sus consideraciones iniciales. Según él, el auge de los agentes de IA provocó un verdadero momento de renacimiento para la industria de identidad digital.
Peri fue categórico al decir que todo lo que la industria consideraba verdad sobre el software quedó obsoleto. El problema central, según él, es que la entidad del otro lado de la interacción dejó de ser un programa construido por un humano. Ahora es un programa que tiene, de cierta forma, voluntad propia — capaz de tomar decisiones sobre qué herramientas acceder. Y en un mundo así, el papel de la identidad y la autorización nunca fue tan importante.
Los líderes presentes en el evento fueron unánimes en un punto: el principio del menor privilegio — que dice que cualquier entidad, sea humana o no, debe tener acceso solo a lo que necesita para realizar su función — necesita ser aplicado de forma aún más rigurosa cuando hablamos de agentes de IA. Esto se debe a que un agente mal configurado o comprometido puede causar daños a una escala mucho mayor que un empleado con acceso indebido. La velocidad con la que un agente opera, sumada a su capacidad de interactuar con múltiples sistemas al mismo tiempo, transforma una brecha de seguridad en un vector de ataque potencialmente devastador para toda la organización.
Otro punto planteado fue la necesidad de crear mecanismos de auditoría continua para los agentes. No basta con definir permisos en el momento de la implantación y olvidarse. Los permisos necesitan ser revisados con frecuencia, los registros de actividad necesitan ser monitoreados, y cualquier comportamiento fuera de lo normal necesita activar alertas inmediatas. Ese enfoque más dinámico y responsivo al control de acceso es lo que separa a las organizaciones que realmente están preparadas para operar con agentes de inteligencia artificial de las que solo están experimentando sin pensar en las consecuencias. 🔎
Mucha Gente Cree Que Entiende la IA, Pero No la Entiende de Verdad
Gary Barlet, CTO del sector público de Illumio, trajo una observación que resonó fuerte en la sala: el mayor desafío es que mucha gente cree que entiende la inteligencia artificial, pero no comprende de verdad lo que ocurre bajo el capó. Es una observación simple, pero con implicaciones enormes.
Cuando los tomadores de decisiones no entienden cómo operan realmente los agentes de IA, tienden a subestimar los riesgos o a sobreestimar las capacidades de estas herramientas. Barlet observó que, afortunadamente, las personas están comenzando a reconocer la necesidad de barreras de protección para garantizar que la IA acceda solo a los recursos correctos. Pero ese reconocimiento todavía está en sus fases iniciales, y hay un largo camino entre percibir la necesidad e implementar soluciones eficaces.
Frameworks y Arneses: Cómo IBM Aborda la Gobernanza de Agentes
Alice Fakir, socia sénior y vicepresidenta de IBM, compartió cómo la empresa ha estado trabajando en la práctica para contener los riesgos asociados a los agentes de IA. IBM construye lo que ella llamó harnesses — una especie de arneses — alrededor de los agentes. Estos arneses aplican una estructura de gobernanza que define claramente lo que el agente puede y no puede hacer.
Un detalle particularmente interesante de la intervención de Fakir fue la mención al concepto de alter egos de los agentes — básicamente, la posibilidad de que un agente oculto opere dentro de otro agente. Parece ciencia ficción, pero es una preocupación real. Sin los frameworks adecuados, un agente podría ser manipulado o explotado para ejecutar acciones fuera de su alcance original. Los arneses creados por IBM sirven justamente para impedir que esas capas ocultas de comportamiento se manifiesten, limitando rigurosamente el alcance de actuación de cada agente.
Herramientas que usamos a diario
Seguridad y Confianza: Lo Que Está en Juego Para Empresas y Clientes
La discusión sobre seguridad en el contexto de los agentes de IA no se limita al entorno interno de las empresas. Se extiende directamente a los clientes que interactúan con estos agentes. Cuando una persona conversa con un chatbot de IA de un banco, por ejemplo, está confiando en que ese agente tiene acceso solo a la información necesaria para ayudarla, y que esos datos están siendo tratados de forma segura y responsable.
Si el agente tiene permisos excesivos o mal configurados, la exposición de datos sensibles se convierte en un riesgo real, con consecuencias que van desde multas regulatorias hasta daños irreversibles a la reputación de la empresa.
Los representantes de Mastercard e IBM en la mesa redonda reforzaron que la confianza es el activo más valioso en juego en este momento. Construir sistemas de inteligencia artificial que operen de forma transparente, con identidad rastreable y acceso bien definido, es lo que va a determinar si las empresas consiguen escalar el uso de agentes sin crear nuevos vectores de vulnerabilidad. IBM, por ejemplo, ha estado trabajando en frameworks internos que tratan a los agentes de IA como ciudadanos digitales con identidad propia, sujetos a las mismas políticas de seguridad aplicadas a cualquier otro usuario corporativo. Es un cambio de mentalidad significativo, pero necesario.
El punto de llegada del debate fue claro: las empresas que están avanzando más rápido en la adopción de agentes de inteligencia artificial son exactamente las que ya se dieron cuenta de que identidad, acceso y seguridad no son cuestiones técnicas secundarias — son la base sobre la cual cualquier estrategia de IA corporativa necesita ser construida. Ignorar esto no es una opción. El costo de remediar una falla de seguridad que involucre a un agente autónomo es exponencialmente mayor que la inversión necesaria para estructurar una política sólida desde el inicio. Y las organizaciones que entiendan esto más temprano van a tomar la delantera — no solo en eficiencia, sino en credibilidad. 🏆
Lo Que Queda Como Aprendizaje de la Mesa Redonda
El evento dejó algunas reflexiones prácticas que merecen la atención de cualquier profesional o empresa que esté pensando en adoptar o expandir el uso de agentes de IA:
- La identidad es prioridad absoluta: la identidad de los agentes necesita ser tratada con el mismo rigor que la identidad de cualquier usuario humano dentro de un sistema corporativo. Esto incluye autenticación, rastreabilidad, revisión periódica de permisos y una política clara de responsabilidad en caso de comportamientos inesperados.
- Seguridad desde el día cero: muchas empresas todavía están en modo de apagar incendios — implementan agentes de IA rápidamente para ganar competitividad y solo piensan en seguridad después de que ocurre algún problema. Esto necesita cambiar. La seguridad necesita entrar en la planificación desde el inicio, con políticas de acceso bien definidas y alineadas con las mejores prácticas del sector.
- La gobernanza necesita ser transversal: esta no es una conversación exclusiva para los equipos de TI y ciberseguridad. Líderes de negocio, gestores de producto y ejecutivos necesitan entender los riesgos y responsabilidades que vienen junto con el poder de los agentes de inteligencia artificial.
- La escala lo cambia todo: las políticas corporativas de identidad y acceso pueden ya existir, pero el volumen de agentes que pueden ser creados y descartados rápidamente cambia completamente la ecuación. Preparar la infraestructura para manejar esa escala es esencial.
El debate sobre identidad, acceso y seguridad en la era de la IA necesita ocurrir en todos los niveles de la organización, porque las consecuencias de ignorarlo afectan a todos — desde el desarrollador que configura el agente hasta el cliente que confía en la empresa para proteger sus datos. 💡
