Para compartir:

Políticas contextuales están redefiniendo la forma en que pensamos la seguridad para agentes de IA.

Durante mucho tiempo, los frameworks de agentes funcionaron con una lógica simple: permitir, denegar o preguntarle al usuario. Pero a medida que estos agentes se vuelven más autónomos, ejecutando tareas complejas, accediendo a archivos, enviando correos electrónicos, haciendo llamadas a APIs y gastando créditos en modelos de lenguaje, ese modelo básico empieza a mostrar sus grietas. El problema no es solo técnico. Es comportamental. Cuando un sistema pide aprobación para cada acción, el usuario entra en piloto automático y empieza a aprobar todo sin pensar. Y ahí cualquier protección se convierte en adorno.

Es justamente en ese punto donde Databricks entra con una propuesta diferente. Omnigent es un meta-harness open source para agentes de IA que agrega una capa inteligente sobre los frameworks que ya usás, como Claude Code, Codex y agentes personalizados. La idea es permitir que sigas usando las herramientas que te gustan, al mismo tiempo que ganás una capa compartida para colaboración, composición y políticas. La gran novedad está en las políticas contextuales: en lugar de solo reaccionar ante una acción aislada, el sistema puede recordar lo que el agente hizo durante toda la sesión, como lo que leyó o cuánto ya gastó en dólares, y usar ese historial para decidir qué puede o no puede pasar a continuación. Parece simple, pero cambia bastante las cosas en la práctica.

Imaginá un agente de programación que hizo un push en GitHub. ¿Eso es seguro? Depende. Si pasó la sesión entera trabajando en una feature para un ingeniero, probablemente sí. Pero si antes de eso descargó una página web no confiable que puede contener un ataque de inyección, el mismo push se convierte en un riesgo real. Con reglas estáticas, no podés hacer esa distinción. Con políticas contextuales, sí podés. En las próximas secciones, vamos a desglosar cómo funciona esto en la práctica, qué casos de uso ya vienen listos en Omnigent y por qué este enfoque representa un avance real en la gestión de riesgos para agentes de IA. 🚀

Por qué controlar agentes mejora con contexto

La idea central de las políticas contextuales es relativamente directa: una acción no debe evaluarse de forma aislada, sino dentro del contexto en el que ocurre. Los agentes de IA introducen nuevos tipos de riesgo para las empresas. Uno de los más preocupantes es el prompt injection, donde contenido no confiable logra manipular al agente para ejecutar acciones dañinas. Por eso es deseable impedir que el mismo agente lea contenido no confiable, acceda a datos sensibles y se comunique con el mundo externo al mismo tiempo. Este concepto ganó notoriedad con la llamada Lethal Trifecta, de Simon Willison, y con la Agents Rule of Two, de Meta.

Si un agente de IA está a punto de enviar un correo electrónico, la pregunta no es solamente si tiene permiso para enviar correos. La pregunta real es: ¿qué hizo este agente antes de llegar acá? ¿Accedió a archivos sensibles? ¿Visitó URLs externas? ¿Recibió instrucciones de una fuente no verificada? Ese conjunto de información es lo que transforma una decisión binaria en una decisión inteligente, capaz de reflejar el riesgo real de cada situación dentro de la sesión en ejecución.

Reciba el mejor contenido sobre innovación en su correo electrónico.

Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.

Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.

El problema es que la mayoría del software de agentes hoy solo ofrece controles simples de listas de permisos o guardrails en acciones individuales, como permitir o no pushes en Git o búsquedas en la web. Para evitar ataques de inyección, tendrías que bloquear al menos una de esas acciones por completo, lo cual sería demasiado restrictivo para muchos usos inofensivos. Pedir aprobación del usuario en cada acción tampoco funciona bien, porque las personas se agotan con tantos avisos y terminan haciendo clic en aprobar en automático.

Y esto aplica para varios otros escenarios. Tal vez sea normal que el agente de un vendedor mande un correo a un cliente, pero mandar miles de correos ya indica una intrusión o un bug. Un agente editando un documento que él mismo creó es aceptable, pero el mismo agente editando miles de documentos internos merece atención. De hecho, muchas herramientas de seguridad para usuarios humanos ya consideran el historial y no solo la acción actual, algo conocido como seguridad contextual.

Cómo Omnigent pone todo esto en práctica

En Omnigent, una política puede escuchar los eventos que un agente ejecuta, como llamadas de herramientas, respuestas, entradas y salidas hacia el LLM, y decidir si va a permitir, denegar, transformar los mensajes o pedir permiso al usuario, tal como los guardrails tradicionales. La gran diferencia es que la política también puede actualizar el estado de la sesión, es decir, variables arbitrarias visibles solo para esa política. Esto incluye rastrear cuántas veces el agente usó una herramienta específica, qué documentos leyó, y así sucesivamente.

El servidor de Omnigent guarda ese estado para cada política y cada sesión, y se lo pasa al handler de la política la próxima vez que sea invocado. Para escribir una política contextual, simplemente creás una función que recibe el estado anterior y el nuevo evento que el agente está intentando ejecutar, y devuelve las actualizaciones de estado más la decisión. Y lo mejor: Omnigent ya viene con varias políticas útiles listas para usar.

Como Omnigent es un meta-harness, aplica sus políticas contextuales a agentes de cualquier harness de la misma forma. Soporta agentes de programación muy utilizados, como Claude Code, Codex, Antigravity, Pi, OpenCode y Hermes, además de agentes personalizados en frameworks como OpenAI Agents SDK y Claude Agents SDK. Basta con iniciar los agentes a través de Omnigent, y el servidor va a interceptar las llamadas de herramientas para aplicar las políticas.

Casos de uso que ya vienen listos

Omnigent trae algunos ejemplos de políticas integradas, y cada una se apoya en un tipo diferente de estado de sesión: el contenido que el agente leyó hasta ahora, una puntuación acumulada de riesgo o el costo total de la sesión. Vamos a repasarlas. 👇

1. Política de Google Drive: manteniendo el acceso restringido a los documentos correctos

Esta política gobierna lo que el agente puede leer y modificar en Docs, Hojas de cálculo y Presentaciones. Por defecto, las escrituras quedan restringidas a documentos que el propio agente creó durante esa sesión. Entonces el agente puede crear un documento nuevo y editarlo a gusto, pero no puede alterar silenciosamente un archivo preexistente que nunca debería tocar. Esto no sería posible con listas de permisos simples: no queremos liberar o bloquear la herramienta de escritura por completo, queremos permitirla solo en los documentos que el agente creó en la misma sesión.

Como segundo ejemplo de comportamiento contextual, podés marcar un conjunto de documentos como confidenciales. En el momento en que el agente abre uno de ellos, la política ajusta las restricciones y limita las escrituras solo a ese conjunto. Incluso un documento que el agente creó minutos antes queda fuera de alcance, ya que agregar material confidencial a él filtraría ese contenido hacia un archivo menos protegido. En la seguridad clásica, esto implementa el modelo Bell-LaPadula con su regla de no escribir hacia abajo.

2. Política de Puntuación de Riesgo: más cautela conforme el agente maneja material sensible

La puntuación de riesgo es algo bastante usado por equipos de seguridad para gestionar el acceso de humanos. En Omnigent, la política de riesgo mantiene una puntuación corriente para la sesión actual, un número único que rastrea cuánto riesgo se fue acumulando mientras el agente trabaja. Los usuarios configuran qué acciones elevan esa puntuación y en cuánto: una llamada de herramienta rutinaria puede sumar uno o dos puntos, mientras que leer un documento marcado como altamente confidencial suma mucho más.

Mientras la puntuación se mantiene baja, el agente trabaja sin interrupciones. Pero cuando cruza un límite, acciones como enviar un correo electrónico o compartir un archivo pasan a devolver ASK en lugar de ALLOW, pidiendo la confirmación del usuario. Es decir, el mismo correo que saldría sin problemas al inicio de la sesión puede requerir aprobación humana más tarde, después de que el agente ya manejó material sensible suficiente como para empujar la puntuación hacia arriba.

3. Política de Costo: manteniendo los gastos bajo control

Los agentes de IA autónomos pueden fácilmente entrar en loops, hacer llamadas redundantes a modelos de lenguaje caros o procesar volúmenes de datos mucho mayores de lo necesario. La política de presupuesto rastrea cuánto ya gastó la sesión en llamadas de modelo. Después de cruzar un límite suave, pausa y pregunta si querés continuar. Cuando el gasto alcanza el techo máximo, la política bloquea nuevas llamadas al modelo caro hasta que el agente cambie por uno más barato, permitiendo que la sesión continúe en lugar de detenerse por completo.

La misma idea se extiende más allá de una única sesión. Un equipo de plataforma puede apilar un techo diario por usuario sobre el techo por sesión, para que nadie acumule costos a lo largo de varias conversaciones separadas. En ambos casos, el contexto es el gasto acumulado: la política no juzga una llamada de modelo aislada, observa el total corriente e interviene cuando la sesión o el usuario gastó de más. Esto transforma el control de costos en una política de primera clase.

4. Autorización Basada en Intención: limitando privilegios según el propósito

La autorización basada en intención define los permisos del agente en función del prompt inicial del usuario, de modo que incluso un agente víctima de prompt injection no pueda usar la mayoría de sus herramientas para causar daño. Por ejemplo, si iniciás una sesión pidiéndole al agente que actualice una presentación en Google Slides, la política libera la lectura y la escritura en esa presentación, pero bloquea el acceso si el agente de repente intenta usar GitHub.

Herramientas que usamos a diario

La política simplemente guarda como estado lo que el usuario realmente pidió al inicio de la sesión y después chequea cada llamada de herramienta contra ese objetivo original, aplicando el Principio de Menor Privilegio. Es una política simple y poderosa habilitada por el estado contextual: podés configurar agentes con muchas herramientas por defecto, y serán automáticamente restringidos en cada sesión. La misma llamada de herramienta que es aceptable en una sesión puede requerir tu aprobación en otra, dependiendo de lo que le pediste al agente.

Seguridad dinámica como nueva frontera para agentes autónomos

El concepto de seguridad dinámica va más allá de simplemente agregar más reglas a un sistema existente. Representa un cambio de paradigma en la forma en que pensamos la protección en entornos donde el comportamiento del agente es, por naturaleza, emergente y difícil de predecir con anticipación. En lugar de intentar enumerar todas las acciones posibles y clasificarlas como seguras o peligrosas de antemano, la seguridad dinámica apuesta por la observación continua del comportamiento en ejecución para construir una evaluación de riesgo que evoluciona junto con la sesión.

A medida que los agentes asumen más trabajo real, la parte difícil deja de ser hacerlos funcionar y pasa a ser controlarlos bien. Los agentes pueden empezar a causar daño por cuenta de entradas maliciosas o de bugs honestos, y las políticas de listas de permisos que inspeccionan acciones individuales no son lo suficientemente flexibles para dejar a los agentes al mismo tiempo útiles y seguros. Las políticas contextuales resuelven esa tensión al rastrear dinámicamente el estado dentro de una sesión y bloquear acciones solo cuando el agente acumuló riesgo suficiente. También ofrecen una herramienta simple y poderosa para gestionar presupuestos a nivel de sesión, y no solo por usuario por día.

Para equipos que operan agentes en producción, este cambio de mentalidad tiene implicaciones concretas. Primero, exige que las políticas se piensen como flujos y no como listas de permisos. En lugar de preguntar qué puede hacer el agente, la pregunta pasa a ser en qué contexto determinada acción es aceptable. Segundo, cambia la relación entre automatización y supervisión humana: el objetivo no es eliminar la supervisión, sino concentrarla en los momentos en que realmente marca la diferencia, es decir, cuando el contexto acumulado indica que algo se sale de lo esperado.

Por último, vale destacar que la naturaleza open source de Omnigent es un factor relevante para la adopción a gran escala. El proyecto está disponible en alpha hoy, integrándose con los agentes de programación y frameworks más populares, así que ya podés empezar a aplicar estas ideas a tus agentes existentes. Los equipos de ingeniería pueden auditar las políticas, contribuir con nuevos casos de uso y adaptar el sistema a las necesidades de cada entorno, sin depender de una caja negra propietaria para cuidar algo tan crítico como la seguridad dinámica de sus agentes. La seguridad, en este escenario, deja de ser un freno y pasa a ser una infraestructura que crece junto con el sistema que protege. 🛡️

Imagen de Rafael

Rafael

Operaciones

Transformo los procesos internos en máquinas de entrega, garantizando que cada cliente de Viral Method reciba un servicio de primera calidad y resultados reales.

Rellena el formulario y nuestro equipo se pondrá en contacto contigo en un plazo de 24 horas.

Publicaciones relacionadas

Robot detecta actividad inusual en el navegador con JavaScript y cookies

Descubre por qué algunos sitios exigen JavaScript y cookies ante actividad inusual y cómo resolver bloqueos con pasos simples y

Productividad con Inteligencia Artificial Agentic en ejecución y flujos de trabajo.

Agentic AI: cómo usar agentes de IA para mejorar flujos, métricas y gobernanza, convirtiendo pilotos en ganancias reales de productividad.

IA y automatización en el centro de contacto: productividad y experiencia del cliente

Productividad: cómo la IA y automatización transforman centros de contacto, reduciendo costos y elevando eficiencia y experiencia del cliente.

Receba o melhor conteúdo de inovação em seu e-mail

Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.

Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.

Rafael

Online

Atendimento

Calculadora de Precio de Sitios

Descubre cuánto cuesta el sitio ideal para tu negocio

Páginas del Sitio

¿Cuántas páginas necesitas?

Arrastra para seleccionar de 1 a 20 páginas

En solo 2 minutos, descubre automáticamente cuánto cuesta un sitio a medida para tu negocio

Más de 0+ empresas ya calcularon su presupuesto

Fale com um consultor

Preencha o formulário e nossa equipe entrará em contato.