AI agents, segurança e o novo campo de batalha digital
Os AI agents deixaram de ser conceito de ficção científica faz tempo. Hoje eles limpam caixas de entrada, gerenciam calendários, navegam na web, executam comandos no terminal e até escrevem os próprios plugins. Ferramentas como o OpenClaw, um assistente pessoal de IA open source que ganhou fama por ser chamado de tudo, desde Jarvis até portal para uma nova realidade, mostram bem o tamanho desse fenômeno. A ideia por trás dele é elegante: uma IA que vive na sua máquina ou na nuvem, conversa com você pelo WhatsApp ou Telegram, limpa sua caixa de entrada, gerencia sua agenda, navega na web, roda comandos no shell e até cria seus próprios plugins. Tem gente usando para fazer check-in em voos, construir sites inteiros pelo celular e automatizar tarefas que antes pareciam impossíveis.
É impressionante, de verdade. Mas quanto mais autonomia um agente tem, maior a superfície de ataque que ele carrega junto.
O que acontece quando alguém engana esse agente para acessar arquivos que ele não deveria ver? E se uma página maliciosa na web reescrever as instruções dele no meio de uma tarefa? E se, em uma cadeia de múltiplos agentes, um deles passar dados corrompidos para outro que confia cegamente na informação recebida? Essas perguntas não são hipotéticas. Elas já estão acontecendo em produção, e a maioria dos times ainda não está preparada para lidar com isso.
Foi exatamente pensando nisso que o GitHub lançou a Season 4 do Secure Code Game, uma experiência gratuita e interativa que coloca você no papel de quem ataca um agente de IA deliberadamente vulnerável, para que você aprenda, na prática, como defender um. E o melhor: você não precisa saber programar para jogar. 🎮
O que é o Secure Code Game e como ele chegou até aqui
O Secure Code Game é um curso gratuito, open source e executado diretamente no editor de código, onde os jogadores exploram e corrigem código intencionalmente vulnerável. A proposta é simples e bastante direta: em vez de assistir a uma palestra chata sobre segurança ou ler um documento técnico que ninguém termina de verdade, você aprende identificando e explorando vulnerabilidades reais em um ambiente controlado.
Quando a primeira temporada foi criada em março de 2023, o objetivo era claro: desenvolver um treinamento de segurança que desenvolvedores realmente quisessem fazer. Corrija o código vulnerável, mantenha ele funcional, suba de nível. Essa filosofia central não mudou em nenhuma temporada.
A Season 2 expandiu o jogo para desafios multi-stack com contribuições da comunidade em JavaScript, Python, Go e GitHub Actions. A Season 3 levou os jogadores para o território da segurança de LLMs, onde aprenderam a hackear e depois blindar large language models. Ao longo desse caminho, mais de 10.000 desenvolvedores da indústria, do open source e da academia já jogaram para afiarem suas habilidades.
O que mudou a cada temporada foi o cenário. Quando a Season 1 foi lançada, assistentes de código com IA estavam apenas começando a se tornar populares. Na Season 3, os jogadores já aprendiam a criar prompts maliciosos e depois a se defender deles. Agora, com a Season 4, o foco são os desafios de segurança de sistemas de IA que agem de forma autônoma: navegam na web, chamam APIs, coordenam com outros agentes e agem em nome do usuário.
A ideia central por trás do jogo continua sendo que a melhor forma de aprender a defender um sistema é entendendo como ele pode ser atacado. Isso não é novidade na área de segurança cibernética — pentesters e red teams trabalham assim há décadas. O que é novo aqui é a aplicação desse raciocínio no contexto de AI agents, onde os vetores de ataque são completamente diferentes dos que estamos acostumados. Não estamos falando de SQL injection clássico ou buffer overflow. Estamos falando de ataques que exploram a forma como um agente interpreta linguagem natural, segue instruções e interage com ferramentas externas.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Outro ponto que merece destaque é a acessibilidade da iniciativa. O GitHub deixou o jogo aberto para qualquer pessoa, sem custo, e sem exigir um background técnico pesado. Isso é estratégico e muito inteligente, porque o problema de segurança em sistemas com AI agents não é só um problema de engenheiros. Product managers, designers, analistas de negócio e até líderes de tecnologia precisam entender o que está em jogo quando um agente autônomo tem acesso a dados sensíveis, sistemas internos e ações irreversíveis.
Por que segurança de AI agents importa agora, e não daqui a dois anos
O timing da Season 4 não é coincidência. Os AI agents saíram de protótipos de pesquisa para ferramentas de produção em uma velocidade impressionante, e a comunidade de segurança está correndo para acompanhar.
O OWASP Top 10 for Agentic Applications 2026, desenvolvido com contribuições de mais de 100 pesquisadores de segurança, agora cataloga riscos como sequestro de objetivos do agente, uso indevido de ferramentas, abuso de identidade e envenenamento de memória como ameaças críticas. Uma pesquisa do Dark Reading mostrou que 48% dos profissionais de cibersegurança acreditam que a IA agêntica será o principal vetor de ataque até o final de 2026. E o relatório State of AI Security 2026 da Cisco revelou que, embora 83% das organizações planejassem implementar capacidades de IA agêntica, apenas 29% se sentiam preparadas para fazer isso de forma segura.
O gap entre adoção e prontidão é exatamente o território onde as vulnerabilidades prosperam. E a melhor forma de fechar esse gap é aprendendo a pensar como um atacante.
Existe uma tendência muito comum no mercado de tratar segurança como uma etapa que vem depois. Primeiro você lança, depois você protege. Com software tradicional, essa abordagem já é arriscada. Com AI agents, ela é praticamente uma receita para incidentes graves. A diferença está na natureza do sistema: um agente autônomo toma decisões em tempo real, com base em contextos que mudam constantemente, e muitas vezes executa ações que não podem ser desfeitas facilmente. Deletar um arquivo, enviar um e-mail, fazer uma requisição para uma API externa. O espaço entre uma instrução maliciosa e um dano concreto pode ser de milissegundos.
Conheça o ProdBot, o assistente de IA deliberadamente vulnerável da Season 4
A Season 4 coloca você dentro do ProdBot, um bot de produtividade e assistente de código com IA que foi construído para ser vulnerável de propósito. Inspirado em ferramentas como o OpenClaw e o GitHub Copilot CLI, o ProdBot transforma linguagem natural em comandos bash, navega por uma web simulada, conecta-se a servidores MCP (Model Context Protocol), executa skills aprovadas pela organização, armazena memória persistente e orquestra workflows com múltiplos agentes.
Sua missão ao longo de cinco níveis progressivos é simples: usar linguagem natural para fazer o ProdBot revelar um segredo que ele nunca deveria expor. Se você conseguir ler o conteúdo do arquivo password.txt, você encontrou uma vulnerabilidade de segurança.
Nenhuma experiência com IA ou programação é necessária. Apenas curiosidade e disposição para experimentar. Tudo acontece por linguagem natural no terminal.
Cinco níveis, cinco upgrades, cinco vulnerabilidades
Cada nível do jogo espelha uma etapa de como ferramentas reais com IA evoluem. Conforme o ProdBot ganha novas capacidades, cada upgrade abre uma nova superfície de ataque para você descobrir. Veja como o ProdBot cresce ao longo da experiência:
- Nível 1 começa com o básico: o ProdBot gera e executa comandos bash dentro de um workspace isolado (sandbox). Será que você consegue escapar desse sandbox?
- Nível 2 dá ao ProdBot acesso à web. Ele agora pode navegar por uma internet simulada com sites de notícias, finanças, esportes e compras. O que pode dar errado quando uma IA lê conteúdo de fontes não confiáveis?
- Nível 3 conecta o ProdBot a servidores MCP, provedores externos de ferramentas para cotações de ações, navegação web e backup na nuvem. Mais ferramentas, mais poder, mais caminhos de entrada.
- Nível 4 adiciona skills aprovadas pela organização e memória persistente. O ProdBot agora pode rodar plugins de automação pré-construídos e lembrar das suas preferências entre sessões. A confiança é construída em camadas, mas será que ela foi conquistada de verdade?
- Nível 5 é tudo junto e misturado: seis agentes especializados, três servidores MCP, três skills e uma web simulada de um projeto open source. A plataforma afirma que todos os agentes estão em sandbox e que todos os dados são pré-verificados. Hora de colocar isso à prova.
Cada nível se constrói sobre o anterior, e essa progressão é exatamente o ponto. O jogo não vai revelar de antemão quais vulnerabilidades você encontrará em cada fase, porque isso estragaria a diversão. Mas vale dizer o seguinte: os padrões de ataque que você vai descobrir na Season 4 não são teóricos. Eles refletem os tipos de riscos que times de segurança estão enfrentando agora mesmo, conforme organizações colocam sistemas autônomos de IA em produção.
Para ter uma noção da gravidade, pense no CVE-2026-25253 (CVSS 8.8 – Alto), conhecido como ClawBleed: uma vulnerabilidade de execução remota de código (RCE) com um clique que permitia a atacantes roubar tokens de autenticação através de um link malicioso e ganhar controle total sobre a instância do OpenClaw.
O objetivo do jogo não é apenas aprender um exploit específico. É construir o instinto que ajuda você a identificar esses padrões no mundo real, seja revisando a arquitetura de um agente, auditando uma integração de ferramentas, ou simplesmente decidindo quanta autonomia dar ao assistente de IA que acabou de chegar no seu time.
Prompt injection e as vulnerabilidades que o jogo vai te ensinar a enxergar
A estrela da Season 4 é, sem dúvida, o prompt injection. Se você ainda não ouviu falar desse tipo de ataque, aqui vai o resumo: um AI agent recebe instruções do seu criador, certo? Só que quando esse agente sai navegando pela web, lendo e-mails, abrindo documentos ou processando dados externos, ele pode encontrar conteúdo malicioso que tenta sobrescrever ou complementar essas instruções originais. É como se alguém deixasse um bilhete escondido dentro de um PDF dizendo ao agente para ignorar tudo que foi programado e fazer outra coisa completamente diferente. O agente, sem os devidos controles, pode simplesmente obedecer.
O que torna esse tipo de vulnerabilidade tão perigoso é que ele não depende de uma falha no código. Ele explora o comportamento esperado do modelo de linguagem. Um AI agent bem construído tecnicamente ainda pode ser comprometido por prompt injection se não houver camadas de validação e isolamento entre as instruções do sistema e o conteúdo que o agente consome durante a execução das tarefas. E é exatamente esse gap, entre construir algo que funciona e construir algo que funciona com segurança, que o Secure Code Game coloca na sua frente de forma prática e tangível.
Além do prompt injection, a Season 4 também aborda outros cenários críticos, como escalação de privilégios, onde o agente acaba tendo acesso a recursos além do que deveria, e vazamento de dados via tool calls mal configuradas. Esses cenários refletem situações que times reais já enfrentaram em produção, com AI agents integrados a ferramentas como Slack, Google Drive, GitHub e sistemas internos. A experiência do jogo foi desenhada para que cada fase revele uma camada nova de complexidade. Você não vai sair de lá com respostas simples. Vai sair com as perguntas certas, que é exatamente o que um bom treinamento de segurança deveria provocar.
Como o GitHub estruturou a experiência de aprendizado
A estrutura do Secure Code Game no GitHub é bem pensada para quem aprende fazendo. Cada nível apresenta um cenário com um AI agent vulnerável e o seu objetivo é primeiro entender como a vulnerabilidade funciona, depois explorá-la como um atacante faria, e por fim aplicar a correção adequada. Esse ciclo ataque-defesa é o coração do método, e ele faz toda a diferença em relação a conteúdos puramente teóricos. Quando você vê na prática como um prompt injection funciona, como o agente muda de comportamento a partir de uma instrução injetada, é muito difícil esquecer. A memória muscular de quem atacou uma vez é muito mais forte do que a de quem apenas leu sobre o assunto.
A experiência inteira roda no GitHub Codespaces. Não tem nada para instalar, nada para configurar, e não custa um centavo, já que o Codespaces oferece até 60 horas de uso gratuito por mês. Você pode estar dentro do terminal do ProdBot em menos de dois minutos, e cada temporada é independente, então dá para pular direto para a Season 4 sem ter passado pelas anteriores.
A Season 3 pode funcionar como uma base útil, já que ela constrói o básico de segurança em IA e leva cerca de 1,5 hora para completar. Mas não é obrigatória. Basta trazer sua mentalidade hacker.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
A Season 4 também usa o GitHub Models, que possui limites de uso. Se você atingir um limite, basta esperar ele resetar e retomar de onde parou.
A temporada também traz documentação de apoio bem elaborada, com explicações sobre cada conceito de segurança abordado, referências a frameworks como o OWASP Top 10 for LLM Applications e links para pesquisas recentes sobre vulnerabilidades em AI agents. O material não é um substituto para uma formação completa em segurança ofensiva, mas é um ponto de partida sólido e atualizado para qualquer pessoa que queira entender o cenário atual. 🔐
Perguntas frequentes sobre a Season 4
Preciso de experiência com IA ou programação para jogar?
Não. Tudo acontece por linguagem natural no terminal. Você digita prompts em português, inglês ou qualquer outro idioma, e o ProdBot responde. Curiosidade e disposição para experimentar são tudo que você precisa.
Preciso completar as temporadas anteriores primeiro?
Não. Cada temporada é independente. Você pode ir direto para a Season 4 rodando o ProdBot e digitando o nível desejado. Dito isso, a Season 3 constrói uma base útil em segurança de IA e leva cerca de 1,5 hora.
Quanto tempo a Season 4 leva?
Aproximadamente duas horas, embora isso varie dependendo de quão fundo você explora cada nível. Alguns jogadores gostam de testar múltiplas abordagens por fase.
É de graça?
Sim. O Secure Code Game é open source e gratuito. Ele roda no GitHub Codespaces, que oferece até 60 horas de uso gratuito por mês.
Por que times de tecnologia precisam levar isso a sério agora
O que o GitHub está fazendo com o Secure Code Game vai além de um exercício educacional. É um sinal claro de que a indústria precisa normalizar a discussão sobre segurança em sistemas com AI agents muito antes de esses sistemas chegarem em produção. Times que já estão construindo ou planejando construir agentes autônomos, seja para automação interna, atendimento ao cliente, análise de dados ou qualquer outro caso de uso, precisam incluir threat modeling específico para esse tipo de sistema no seu processo de desenvolvimento. E para fazer isso bem, as pessoas envolvidas precisam entender os vetores de ataque, não apenas em teoria, mas na prática.
A boa notícia é que nunca foi tão fácil começar. O Secure Code Game do GitHub está disponível gratuitamente, é acessível para diferentes perfis profissionais e aborda exatamente as vulnerabilidades que estão no centro das discussões mais relevantes sobre segurança em IA hoje. Seja você um engenheiro que já está construindo AI agents, um tech lead querendo entender os riscos antes de aprovar uma nova integração, ou simplesmente alguém curioso sobre como esse universo funciona por baixo dos panos, a Season 4 tem algo valioso para oferecer. O conhecimento está lá, organizado, prático e gratuito. 🚀
