Agentes de IA Estão Por Toda Parte — Mas Quem Controla o Que Eles Fazem?
Agentes de inteligência artificial estão deixando de ser uma promessa distante e virando parte do cotidiano das empresas. Eles agendam reuniões, processam documentos, tomam decisões automatizadas e até interagem com clientes em tempo real. Mas quanto mais esses agentes ganham espaço dentro das organizações, mais uma pergunta urgente aparece no centro das discussões: quem controla o que esses agentes podem fazer e acessar?
Foi exatamente essa questão que moveu o debate no Axios Live Expert Voices, um roundtable realizado em Washington no dia 21 de abril, moderado pela jornalista Sam Sabin e patrocinado pela Okta. No encontro, líderes de cibersegurança de empresas como Mastercard, IBM, Keyfactor, Illumio e Rook9 sentaram à mesa para falar sobre um tema que está tirando o sono de muita gente no setor de tecnologia.
A pauta foi direta: identidade dos agentes de IA, controle de acesso ao que eles podem ou não fazer, e a segurança das organizações que os adotam, além dos clientes que interagem com eles. O papo foi sem rodeios, e as conclusões deixaram claro que esse debate não é mais uma conversa para o futuro — é urgente agora. 🔐
O Problema Real: Agentes de IA São Entidades Sem Identidade Definida
Quando um funcionário entra em uma empresa, ele passa por um processo de autenticação, recebe credenciais, tem permissões definidas e responde por suas ações. Com os agentes de inteligência artificial, esse processo ainda é nebuloso. Eles executam tarefas, acessam sistemas, consultam bancos de dados e interagem com APIs externas — mas em muitos casos, sem uma identidade clara e rastreável.
Isso cria uma lacuna perigosa: se o agente tomar uma decisão errada ou acessar algo que não deveria, quem responde por isso? A empresa? O desenvolvedor? O sistema de IA em si? Essa falta de clareza foi um dos pontos centrais levantados no roundtable.
Ellen Boehm, vice-presidente sênior de inovação em identidade de IoT e IA na Keyfactor, trouxe uma perspectiva bastante esclarecedora durante a conversa. Segundo ela, os agentes de IA devem ser tratados como uma nova carga de trabalho dentro do ambiente corporativo. São entidades que recebem permissões para executar tarefas específicas, mas que precisam ser autenticadas e limitadas a determinados sistemas e conjuntos de dados. Nas palavras dela, não é necessário reinventar as políticas que já existem para o ambiente corporativo — o desafio é a escala, porque esses agentes podem ser criados e descartados rapidamente, gerando uma ordem de grandeza muito maior em volume de identidades a serem gerenciadas.
Os especialistas presentes no evento destacaram que o crescimento acelerado do uso de agentes nas operações corporativas criou uma espécie de zona cinzenta na gestão de acesso e identidade. Diferente de um software tradicional, que executa tarefas bem definidas dentro de parâmetros fixos, um agente de IA pode tomar caminhos imprevisíveis para atingir um objetivo. Ele pode, por exemplo, buscar informações em fontes que não estavam previstas, compartilhar dados com outros sistemas ou realizar ações em cadeia que cruzam múltiplas plataformas. Sem uma política clara de identidade e controle, isso se torna um risco real de segurança para qualquer organização.
A analogia usada por alguns dos participantes foi precisa: tratar um agente de IA como se fosse apenas um software é o mesmo erro que tratar um robô industrial como se fosse uma calculadora. A complexidade é completamente diferente, e as políticas de segurança precisam acompanhar essa complexidade. Isso significa que as empresas precisam começar a pensar em como atribuir uma identidade funcional a esses agentes, com permissões granulares, rastreabilidade de ações e limites bem definidos de até onde eles podem ir dentro dos sistemas corporativos. 🤖
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
LLMs e o Comércio Agêntico: O Caso da Mastercard
Um dos pontos mais interessantes levantados no evento veio de Kaushik Gopal, vice-presidente executivo de insights e inteligência da Mastercard. Ele explicou que os modelos de linguagem de grande escala, os famosos LLMs, estão impulsionando a jornada agêntica na indústria de pagamentos. Os clientes da empresa enxergam essas tecnologias tanto como um multiplicador de força quanto como um risco.
Isso faz todo sentido quando você pensa no contexto: imagine um agente de IA realizando transações financeiras em nome de um usuário. Nesse cenário, três elementos são absolutamente essenciais — a intenção por trás da ação, o consentimento do usuário e a identidade verificável do agente. À medida que o comércio agêntico se torna mais presente, esses três pilares precisam estar solidificados para que o ecossistema funcione de forma confiável.
Gopal destacou que essas preocupações estão no topo da lista de prioridades dos clientes da Mastercard. E não é para menos. Quando falamos de dinheiro, qualquer falha de identidade ou acesso indevido pode ter consequências financeiras e legais enormes. A mensagem foi clara: a indústria de pagamentos já entendeu que os agentes de IA precisam operar dentro de limites rígidos, e que a infraestrutura de identidade precisa evoluir para dar conta dessa nova realidade.
Gestores de Pessoas Agora Também São Gestores de Bots
Outro destaque do roundtable foi a intervenção de Anne Marie Zettlemoyer, CSO da Rook9, que trouxe uma reflexão que pega muita gente de surpresa. Segundo ela, o papel de qualquer gestor agora não é apenas gerenciar pessoas — é gerenciar agentes de IA também. E a maioria dos gestores está completamente despreparada para isso.
Zettlemoyer explicou que a pressão vem de cima. Os conselhos de administração e as lideranças das empresas estão mandando adotar IA o mais rápido possível, criando uma corrida ao mercado. Mas logo em seguida vem o freio: como garantir que o acesso concedido ao agente não é apenas seguro, mas também intencional? Essa tensão entre velocidade de adoção e responsabilidade na configuração de permissões é um dos maiores desafios que as organizações enfrentam neste momento.
É uma mudança cultural significativa. Um gestor de equipe agora precisa entender não só as competências dos seus colaboradores humanos, mas também as capacidades, limitações e riscos dos agentes de IA que operam sob sua responsabilidade. Isso exige uma nova mentalidade e, provavelmente, novos processos de governança interna que ainda estão sendo inventados. 🧠
Acesso Controlado: A Fronteira Que Ainda Está Sendo Construída
Um dos temas que dominou boa parte da conversa no roundtable foi justamente a questão do controle de acesso. Quando falamos de humanos em um ambiente corporativo, já existe um arcabouço razoavelmente bem estabelecido de políticas de acesso baseadas em funções, autenticação multifator e revisões periódicas de permissões. Mas quando o assunto são agentes de inteligência artificial, esse arcabouço praticamente não existe ou está sendo construído do zero.
Empresas como a Okta, que patrocinou o evento, estão justamente trabalhando nessa direção: criar camadas de identidade e acesso que façam sentido para entidades não humanas que operam de forma autônoma dentro de sistemas críticos. Harish Peri, vice-presidente sênior e gerente geral de segurança de IA da Okta, fez observações contundentes em suas considerações iniciais. Segundo ele, a ascensão dos agentes de IA causou um verdadeiro momento de renascimento para a indústria de identidade digital.
Peri foi categórico ao dizer que tudo o que a indústria considerava verdade sobre software ficou obsoleto. O problema central, segundo ele, é que a entidade do outro lado da interação deixou de ser um programa construído por um humano. Agora é um programa que tem, de certa forma, vontade própria — capaz de tomar decisões sobre quais ferramentas acessar. E num mundo assim, o papel da identidade e da autorização nunca foi tão importante.
Os líderes presentes no evento foram unânimes em um ponto: o princípio do menor privilégio — que diz que qualquer entidade, seja humana ou não, deve ter acesso apenas ao que precisa para realizar sua função — precisa ser aplicado de forma ainda mais rigorosa quando falamos de agentes de IA. Isso porque um agente mal configurado ou comprometido pode causar danos em escala muito maior do que um funcionário com acesso indevido. A velocidade com que um agente opera, aliada à sua capacidade de interagir com múltiplos sistemas ao mesmo tempo, transforma uma brecha de segurança em um vetor de ataque potencialmente devastador para a organização inteira.
Outro ponto levantado foi a necessidade de criar mecanismos de auditoria contínua para os agentes. Não basta definir permissões no momento da implantação e esquecer. As permissões precisam ser revisadas com frequência, os logs de atividade precisam ser monitorados, e qualquer comportamento fora do padrão precisa acionar alertas imediatos. Essa abordagem mais dinâmica e responsiva ao controle de acesso é o que separa as organizações que estão realmente preparadas para operar com agentes de inteligência artificial das que estão apenas experimentando sem pensar nas consequências. 🔎
Muita Gente Acha Que Entende IA, Mas Não Entende de Verdade
Gary Barlet, CTO do setor público da Illumio, trouxe uma constatação que ressoou forte na sala: o maior desafio é que muita gente acha que entende inteligência artificial, mas não compreende de verdade o que acontece por baixo dos panos. É uma observação simples, mas com implicações enormes.
Quando tomadores de decisão não entendem como os agentes de IA realmente operam, eles tendem a subestimar os riscos ou a superestimar as capacidades dessas ferramentas. Barlet observou que, felizmente, as pessoas estão começando a reconhecer a necessidade de barreiras de proteção para garantir que a IA acesse apenas os recursos corretos. Mas esse reconhecimento ainda está nas fases iniciais, e há um longo caminho entre perceber a necessidade e implementar soluções eficazes.
Frameworks e Amarras: Como a IBM Aborda a Governança de Agentes
Alice Fakir, parceira sênior e vice-presidente da IBM, compartilhou como a empresa tem trabalhado na prática para conter os riscos associados aos agentes de IA. A IBM constrói o que ela chamou de harnesses — uma espécie de amarras ou arneses — ao redor dos agentes. Esses arneses aplicam uma estrutura de governança que define claramente o que o agente pode e não pode fazer.
Um detalhe particularmente interessante da fala de Fakir foi a menção ao conceito de alter egos dos agentes — basicamente, a possibilidade de um agente oculto operar dentro de outro agente. Parece ficção científica, mas é uma preocupação real. Sem os frameworks adequados, um agente poderia ser manipulado ou explorado para executar ações fora do seu escopo original. Os arneses criados pela IBM servem justamente para impedir que essas camadas ocultas de comportamento se manifestem, limitando rigorosamente o escopo de atuação de cada agente.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Segurança e Confiança: O Que Está em Jogo Para Empresas e Clientes
A discussão sobre segurança no contexto dos agentes de IA não se limita ao ambiente interno das empresas. Ela se estende diretamente para os clientes que interagem com esses agentes. Quando uma pessoa conversa com um chatbot de IA de um banco, por exemplo, ela está confiando que aquele agente tem acesso apenas às informações necessárias para ajudá-la, e que esses dados estão sendo tratados de forma segura e responsável.
Se o agente tiver permissões excessivas ou mal configuradas, a exposição de dados sensíveis se torna um risco real, com consequências que vão desde multas regulatórias até danos irreversíveis à reputação da empresa.
Representantes da Mastercard e da IBM no roundtable reforçaram que a confiança é o ativo mais valioso em jogo nesse momento. Construir sistemas de inteligência artificial que operem de forma transparente, com identidade rastreável e acesso bem definido, é o que vai determinar se as empresas conseguem escalar o uso de agentes sem criar novos vetores de vulnerabilidade. A IBM, por exemplo, tem trabalhado em frameworks internos que tratam os agentes de IA como cidadãos digitais com identidade própria, sujeitos às mesmas políticas de segurança aplicadas a qualquer outro usuário corporativo. É uma mudança de mentalidade significativa, mas necessária.
O ponto de chegada do debate foi claro: as empresas que estão avançando mais rápido na adoção de agentes de inteligência artificial são exatamente as que já perceberam que identidade, acesso e segurança não são questões técnicas secundárias — são a base sobre a qual qualquer estratégia de IA corporativa precisa ser construída. Ignorar isso não é uma opção. O custo de remediar uma falha de segurança envolvendo um agente autônomo é exponencialmente maior do que o investimento necessário para estruturar uma política sólida desde o início. E as organizações que entenderem isso mais cedo vão sair na frente — não só em eficiência, mas em credibilidade. 🏆
O Que Fica de Aprendizado do Roundtable
O evento deixou algumas reflexões práticas que merecem atenção de qualquer profissional ou empresa que esteja pensando em adotar ou expandir o uso de agentes de IA:
- Identidade é prioridade absoluta: a identidade dos agentes precisa ser tratada com o mesmo rigor que a identidade de qualquer usuário humano dentro de um sistema corporativo. Isso inclui autenticação, rastreabilidade, revisão periódica de permissões e uma política clara de responsabilidade em caso de comportamentos inesperados.
- Segurança desde o dia zero: muitas empresas ainda estão no modo de apagar incêndio — implementam agentes de IA rapidamente para ganhar competitividade e só pensam em segurança depois que algum problema ocorre. Isso precisa mudar. A segurança precisa entrar no planejamento desde o início, com políticas de acesso bem definidas e alinhadas com as melhores práticas do setor.
- Governança precisa ser transversal: essa não é uma conversa exclusiva para os times de TI e cibersegurança. Líderes de negócio, gestores de produto e executivos precisam entender os riscos e responsabilidades que vêm junto com o poder dos agentes de inteligência artificial.
- Escala muda tudo: as políticas corporativas de identidade e acesso podem até já existir, mas o volume de agentes que podem ser criados e descartados rapidamente muda completamente a equação. Preparar a infraestrutura para lidar com essa escala é essencial.
O debate sobre identidade, acesso e segurança na era da IA precisa acontecer em todos os níveis da organização, porque as consequências de ignorá-lo afetam todos — do desenvolvedor que configura o agente até o cliente que confia na empresa para proteger seus dados. 💡
