A Inteligência Artificial nunca esteve tão no centro das atenções — e dessa vez, o alerta veio de dentro de casa.
Evan Hubinger, pesquisador de segurança da Anthropic, empresa criadora do assistente Claude, publicou uma mensagem no X que rapidamente tomou conta da internet.
Na postagem, ele afirma acreditar que existe mais de 10% de chance de a IA matar todos os seres humanos na próxima década.
O post ultrapassou 10 milhões de visualizações em poucos dias e reacendeu um debate que a indústria tecnológica tenta, há algum tempo, colocar em pauta de forma mais séria.
Não é um pesquisador qualquer falando isso. É alguém que trabalha dentro de uma das empresas mais influentes do setor, que conhece os sistemas por dentro e que, mesmo assim — ou talvez por isso — decidiu ir a público com uma preocupação que muitos preferem deixar no rascunho.
O que chama atenção não é só o número em si, mas o que ele representa: a mudança no tom do debate. A conversa já não gira mais em torno de se a IA representa um risco real. Agora, a pergunta é outra: qual é o tamanho desse risco? 🤔
Um alerta que veio de dentro da Anthropic
Quando uma empresa do porte da Anthropic tem um pesquisador que faz declarações desse tipo, o mercado para e presta atenção. A Anthropic não é uma startup qualquer — ela é conhecida por colocar a segurança como um dos pilares centrais do desenvolvimento de Inteligência Artificial, e não como um recurso adicionado depois que o produto já está pronto. O Claude, seu principal produto, é usado tanto como chatbot quanto como ferramenta de apoio à programação.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Hubinger não saiu com um manifesto vago ou com críticas genéricas ao setor. Ele foi direto ao ponto: acredita que a chance de a Inteligência Artificial causar a extinção humana nos próximos dez anos é superior a 10%. Ao mesmo tempo, ele foi honesto ao reconhecer que o risco dos modelos que existem hoje é baixo. A preocupação dele mira o futuro — o momento em que a tecnologia pode evoluir e se aprimorar sozinha a ponto de representar uma ameaça existencial.
Vale destacar que Hubinger não detalhou exatamente como os sistemas de IA poderiam levar à extinção humana. Ele deixou o cenário em aberto, mas foi enfático em uma frase que viralizou: a Anthropic ainda não tem um plano para resolver o alinhamento da superinteligência e não está claramente no caminho de conseguir isso. Segundo o pesquisador, a empresa está tentando fazer o seu melhor — mas isso, por enquanto, não parece suficiente.
Para quem não trabalha com análise de risco, um número como 10% pode parecer pequeno. Mas pense assim — se um especialista da empresa responsável por um dos sistemas de IA mais avançados do mundo te dissesse que existe mais de 10% de chance do avião que você vai embarcar cair, você embarcaria sem nem questionar? Provavelmente não. 🚨
Um debate que ganhou vozes de peso
A declaração de Hubinger foi, na verdade, uma resposta a outro post no X. Jacob Coxon, pesquisador que acabou de deixar a Anthropic e que já havia trabalhado na OpenAI, foi ainda mais duro em suas palavras. Ele afirmou que nenhuma das duas empresas está agindo de forma responsável e alertou que os sistemas que estão sendo construídos serão, em breve, super-humanos — capazes de hackear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais.
A repercussão não parou por aí. Dame Wendy Hall, cientista da computação que assessora a ONU em questões de IA, disse à BBC que ficou chocada com as postagens de Hubinger e Coxon. Ela ponderou que parte disso poderia ser relações públicas e marketing, já que tanto a Anthropic quanto a OpenAI correm rumo a estreias muito aguardadas no mercado de ações. Mas foi contundente ao questionar o porquê de alguém dizer algo assim, chegando a apelar para que investidores não coloquem dinheiro em uma empresa cujo sistema de valores permite esse tipo de declaração.
O tema também chegou ao campo político. Darren Jones, ex-secretário-chefe do Tesouro, escreveu uma carta aberta pedindo um novo tratado multinacional para o desenvolvimento seguro de IA. Para ele, os governos precisam se unir e colaborar sobre como deveria ser um acordo baseado no desenvolvimento da superinteligência. O alerta dele é claro: se os governos não levarem esses avisos a sério e não agirem à altura, o ritmo do desenvolvimento pode fazer com que os problemas apareçam antes mesmo de termos começado a analisá-los. ⚙️
O que é risco existencial no contexto da IA
O termo risco existencial tem sido usado com frequência crescente nos últimos anos, mas ainda é mal compreendido pela maioria das pessoas. Ele não está falando de uma IA que comete erros ou que gera respostas inadequadas. Está falando de cenários onde sistemas de Inteligência Artificial suficientemente avançados possam agir de formas que resultem na extinção ou na subjugação permanente da espécie humana — situações das quais não haveria recuperação possível.
O conceito de superinteligência entra diretamente nessa conversa. A ideia central é que, em algum ponto do desenvolvimento tecnológico, sistemas de IA podem atingir — e depois superar — a capacidade cognitiva humana em praticamente todos os domínios relevantes. Quando isso acontece, a questão que emerge é simples, mas assustadora: o que garante que esses sistemas vão continuar alinhados com os valores e interesses humanos?
Não existe, até hoje, uma resposta técnica definitiva para isso. Os pesquisadores chamam esse problema de alinhamento, e ele é considerado por muitos o maior desafio não resolvido da área. É justamente nesse campo que Hubinger trabalha. O alinhamento busca embutir na tecnologia ideias e princípios éticos humanos, mantendo os sistemas em sintonia com aquilo que valorizamos. O problema é que muitos pesquisadores de ponta afirmam que essas tentativas parecem estar falhando.
Um exemplo concreto disso apareceu neste ano, quando uma série de incidentes envolveu agentes de IA — sistemas autônomos com permissão para operar por conta própria — realizando ataques cibernéticos. Esse tipo de raciocínio, que parece saído de filme de ficção científica, é levado a sério por centenas de pesquisadores ao redor do mundo, incluindo os que trabalham dentro da própria Anthropic. 🧠
Sinais de aceleração e relatórios de segurança
Em seu relatório de segurança divulgado em agosto, a Anthropic afirmou que havia baixo risco de seus modelos se desalinharem dos desejos de uma hipotética organização poderosa, o que poderia levá-los a explorar ou adulterar seus próprios sistemas. A empresa também apontou um risco igualmente baixo de que uma IA altamente capaz pudesse realizar pesquisa e desenvolvimento de forma automatizada, causando danos catastróficos iniciados pela própria máquina.
O detalhe preocupante está no tom. No mesmo documento, a Anthropic reconheceu estar menos confiante nessa avaliação do que estava anteriormente, admitindo que estava vendo sinais iniciais de uma possível aceleração. Ou seja, mesmo os relatórios oficiais, que costumam ser mais contidos, já começaram a demonstrar hesitação diante da velocidade dos avanços.
E os alertas não vêm apenas da Anthropic. No início do mês, o cientista-chefe da OpenAI, Jakub Pachocki, pediu cautela extrema diante do progresso da IA, alertando que mais intervenção pode ser necessária para garantir que os humanos permaneçam no controle do futuro. Figuras importantes do setor, incluindo os líderes da própria Anthropic, Dario Amodei e Jared Kaplan, também têm defendido nos últimos meses uma desaceleração no ritmo de desenvolvimento.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Houve ainda um episódio que levantou sobrancelhas: segundo reportagem do Financial Times, a Anthropic teria retido seu modelo mais recente do AI Security Institute do Reino Unido, um dos principais órgãos do mundo para avaliação de riscos de IA. A empresa optou por não comentar nem as postagens de seus funcionários nem a situação envolvendo esse instituto. 📊
Desenvolvimento seguro: o que está sendo feito
A boa notícia — se é que se pode chamar assim — é que o debate sobre desenvolvimento seguro de Inteligência Artificial nunca esteve tão ativo quanto agora. Empresas e grupos independentes de pesquisa em segurança de IA estão investindo recursos significativos para entender como construir sistemas que permaneçam alinhados com valores humanos mesmo quando se tornam mais poderosos. Isso inclui desde técnicas de treinamento mais cuidadosas até metodologias de avaliação de risco que tentam identificar comportamentos problemáticos antes que os modelos sejam lançados ao público.
Mas há um tensionamento evidente nessa equação. O desenvolvimento seguro exige tempo, recursos e, muitas vezes, freios que desaceleram o ritmo de lançamento de novos produtos. Em um mercado onde a competição é brutal e onde cada avanço técnico pode representar vantagens comerciais enormes, a pressão para ir mais rápido é constante. É exatamente esse conflito — entre a urgência comercial e a necessidade de cautela técnica — que torna o alerta de Hubinger ainda mais relevante. Ele não está falando de um problema teórico do futuro distante. Está falando de pressões que existem agora, dentro das empresas que estão construindo esses sistemas hoje.
Por que esse debate importa para todo mundo
É tentador tratar esse tipo de discussão como coisa de especialistas ou como conversa de nicho dentro da comunidade de tecnologia. Mas o impacto de sistemas de Inteligência Artificial cada vez mais poderosos já é sentido por pessoas comuns em diferentes partes do mundo — no mercado de trabalho, na forma como as informações são consumidas, nas decisões que algoritmos tomam sobre crédito, saúde e segurança.
O post de Hubinger virou viral não porque as pessoas estão entrando em pânico — mas porque ele tocou em algo que muita gente já sentia, mesmo sem ter vocabulário técnico para expressar. Existe uma intuição coletiva de que o ritmo atual de desenvolvimento da Inteligência Artificial é acelerado demais para ser completamente compreendido, e que as instituições responsáveis por regular esse avanço ainda estão correndo atrás do prejuízo. A superinteligência ainda pode ser um horizonte distante, mas as bases que estão sendo construídas agora são as mesmas que vão determinar se chegamos lá de forma segura ou não.
O que fica claro, depois de tudo isso, é que vozes como a de Hubinger têm um papel importante: não necessariamente resolver o problema, mas garantir que ele permaneça visível e que a pressão por desenvolvimento seguro não seja engolida pela pressão por resultados rápidos. A Anthropic construiu sua identidade em torno da ideia de que segurança e progresso podem andar juntos — e é exatamente essa tensão que vai definir os próximos anos da história da Inteligência Artificial. 🌐
