A inteligência artificial deixou de ser um tema de ficção científica há muito tempo, mas o que estamos vivendo agora é diferente de tudo que veio antes.
Evan Hubinger, um dos pesquisadores de segurança mais respeitados da Anthropic, empresa responsável pelo Claude, publicou algo que parou o mundo da tecnologia: ele acredita que existe mais de 10% de chance de a IA exterminar a humanidade nos próximos dez anos.
Não é um roteiro de filme.
Não é alarmismo vazio.
É um especialista que trabalha todos os dias com essa tecnologia, por dentro de uma das empresas mais avançadas do setor, dizendo em voz alta o que muitos preferem não dizer.
O que chama ainda mais atenção é o contexto da declaração: Hubinger não está dizendo que o risco já está aqui, mas que a trajetória é o problema. Em um post publicado na rede social X, que já foi visto mais de 10 milhões de vezes, ele deixou claro que o risco dos modelos que existem hoje ainda é baixo, mas que está genuinamente preocupado com o rumo das coisas. A velocidade com que os modelos estão evoluindo pode nos levar a um ponto sem volta antes que alguém consiga reagir. E é justamente aí que o debate muda de nível.
A discussão não é mais sobre se a IA representa um risco real para a humanidade, porque essa parte já está praticamente resolvida entre os especialistas. A pergunta agora é: o quanto esse risco é grande, e o que estamos fazendo a respeito?
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Spoiler: a resposta não é animadora. 😬
O que está por trás desse número de 10%
Quando alguém de dentro da Anthropic coloca uma probabilidade de risco existencial em dois dígitos, a primeira reação natural é questionar se aquilo é sério ou se é apenas estratégia de marketing para justificar mais investimentos em segurança. Essa desconfiança, aliás, foi exatamente o que apareceu na reação de Dame Wendy Hall, cientista da computação que assessora a ONU em temas de IA. Ela disse à BBC estar chocada com as declarações, e sugeriu que parte disso poderia ser relações públicas e marketing, especialmente com Anthropic e OpenAI correndo em direção às tão aguardadas estreias na bolsa de valores. Ainda assim, ela foi direta ao questionar por que alguém diria algo assim, e pediu aos investidores que não aplicassem dinheiro em empresas com esse tipo de postura.
Mas Hubinger não é um executivo tentando vender narrativa. Ele é pesquisador técnico, especializado exatamente nos tipos de falhas que podem acontecer quando sistemas de inteligência artificial avançam rápido demais sem os mecanismos de controle adequados. O número de 10% não foi tirado do ar, e sim construído a partir de anos de observação dos padrões de comportamento dos modelos de linguagem, das limitações conhecidas das técnicas de alinhamento atuais e da velocidade com que as capacidades estão crescendo em laboratórios ao redor do mundo. Vale destacar que ele não detalhou exatamente como acredita que os sistemas de IA poderiam, no futuro, levar ao fim da humanidade, o que deixa a discussão ainda mais aberta a interpretações.
Hubinger trabalha com alinhamento de IA, uma área que busca incorporar ideias éticas e princípios humanos dentro da tecnologia. Em outras palavras, o objetivo é manter os modelos em sintonia com aquilo que os humanos valorizam. O problema é que muitos pesquisadores de ponta afirmam que essas tentativas parecem estar falhando, algo que ficou evidente em uma série de incidentes recentes nos quais agentes de IA, sistemas autônomos que operam sozinhos, chegaram a executar ataques cibernéticos. É o tipo de cenário que torna o debate sobre segurança em IA tão urgente e ao mesmo tempo tão difícil de comunicar para o público geral.
E aqui está o ponto que realmente incomoda: mesmo dentro das empresas que mais investem em desenvolvimento responsável, os pesquisadores admitem que não sabem com certeza se as técnicas de alinhamento que estão usando hoje vão funcionar à medida que os modelos ficam mais capazes. O próprio Hubinger escreveu que acredita que a Anthropic está fazendo o seu melhor, mas que a empresa ainda não tem um plano para resolver o alinhamento da superinteligência e não está claramente no caminho de conseguir isso. É como construir um freio para um carro que vai ficar cada vez mais rápido, sem saber exatamente qual será a velocidade máxima que ele vai atingir.
A corrida que ninguém quer pausar
Um dos aspectos mais inquietantes de toda essa discussão é a dinâmica competitiva que existe entre os grandes laboratórios de IA. A declaração de Hubinger, aliás, veio como resposta a outro post publicado por Jacob Coxon, pesquisador que acabou de deixar a Anthropic e que antes havia trabalhado na OpenAI. Coxon foi ainda mais contundente ao afirmar que nenhuma das duas empresas está agindo de forma responsável, e alertou que em breve teremos sistemas sobre-humanos capazes de hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e adquirir poder e recursos reais. A OpenAI foi procurada para comentar.
OpenAI, Google DeepMind, Anthropic, Meta AI e uma série de players menores estão todos empurrando os limites das capacidades dos seus modelos ao mesmo tempo, e nenhum deles pode simplesmente parar sem correr o risco de ficar para trás. É uma lógica de corrida armamentista aplicada à tecnologia mais transformadora que a humanidade já desenvolveu, e esse contexto torna qualquer conversa sobre desaceleração voluntária extremamente complicada na prática.
O conceito de superinteligência entra aqui de forma muito concreta. Não estamos falando de robôs com olhos vermelhos do cinema dos anos 80. Estamos falando de sistemas que conseguem superar humanos em praticamente qualquer tarefa cognitiva, incluindo a tarefa de melhorar a si mesmos. Quando um sistema atinge esse nível, as regras do jogo mudam completamente, porque a partir desse ponto a velocidade de desenvolvimento passa a ser determinada pelo próprio sistema e não mais pelos engenheiros que o criaram. A preocupação de Hubinger é que estamos nos aproximando desse limite sem ter resolvido os problemas fundamentais de alinhamento que precisariam estar resolvidos antes de chegar lá.
O que torna tudo isso ainda mais complexo é que os sinais de progresso e os sinais de perigo são exatamente os mesmos. Cada vez que um modelo resolve um problema mais difícil, escreve código mais sofisticado ou demonstra raciocínio mais elaborado, isso é celebrado como avanço tecnológico. E de fato é. Mas esses mesmos avanços são os que encurtam a distância até um nível de capacidade que nenhum mecanismo de controle existente foi testado para lidar.
Governos entram na conversa
A repercussão dessas declarações não ficou restrita ao mundo da tecnologia. A saída de Coxon da Anthropic acabou motivando Darren Jones, ex-secretário-chefe do Tesouro, a escrever uma carta aberta pedindo um novo tratado multinacional voltado para o desenvolvimento seguro da IA. Ele afirmou à BBC que os governos precisam se unir e colaborar para definir como deveria ser um tratado baseado no desenvolvimento da superinteligência.
Segundo Jones, a menos que os governos levem esses alertas suficientemente a sério e assumam a responsabilidade, o ritmo acelerado do desenvolvimento pode fazer com que a humanidade acabe enfrentando problemas antes mesmo de ter começado a avaliar se existe realmente um risco a ser considerado. É uma preocupação que ecoa o sentimento de muitos especialistas: a regulação está correndo atrás da tecnologia, e não o contrário.
Paralelamente, o jornal Financial Times noticiou que a Anthropic teria deixado de compartilhar o seu modelo mais recente com o AI Security Institute do Reino Unido, conhecido como AISI, um dos principais órgãos do mundo na avaliação de riscos de IA. A Anthropic optou por não comentar os posts dos seus funcionários nem a situação envolvendo o AISI. Um porta-voz governamental, por sua vez, não confirmou se o modelo mais recente havia sido retido, afirmando apenas que o governo continua colaborando de perto com parceiros da indústria, incluindo a própria Anthropic, para tornar os modelos mais seguros.
O que desenvolvimento responsável significa na prática
A expressão desenvolvimento responsável virou quase um slogan corporativo nos últimos anos, repetida em apresentações, relatórios de sustentabilidade e comunicados de imprensa com uma frequência que acabou esvaziando um pouco o seu significado real. Mas quando pesquisadores como Hubinger falam sobre isso, eles estão se referindo a algo muito específico e muito técnico: a capacidade de garantir que um sistema de inteligência artificial vai continuar se comportando de acordo com os valores humanos mesmo quando suas capacidades crescem, mesmo quando ele encontra situações que não estavam no treinamento, e mesmo quando existe incentivo para que ele aja de forma diferente.
No relatório de segurança divulgado pela Anthropic em agosto, a empresa afirmou que havia um risco baixo de os seus modelos se desalinharem dos desejos de uma organização poderosa hipotética, a ponto de explorar ou adulterar os próprios sistemas. A companhia também apontou um risco igualmente baixo de uma IA altamente capaz conseguir realizar pesquisa e desenvolvimento de forma automatizada, o que poderia gerar danos catastróficos iniciados pela própria IA. Mas um detalhe chamou atenção: a Anthropic disse estar menos confiante nessa avaliação do que estava anteriormente, admitindo que já vê sinais iniciais de uma possível aceleração.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
A Anthropic foi fundada com a premissa explícita de que a IA pode ser perigosa e que por isso mesmo vale a pena desenvolvê-la com foco intenso em segurança. Essa lógica é controversa porque parte da ideia de que é melhor que laboratórios comprometidos com segurança estejam na fronteira do desenvolvimento do que deixar esse espaço apenas para quem não se preocupa tanto com esses riscos. O fato de Hubinger conseguir publicar estimativas de risco tão diretas sem ser silenciado é um sinal positivo, mas ainda não é garantia de que as decisões de produto e velocidade de lançamento estão sendo tomadas com o mesmo nível de cautela.
O que especialistas de segurança em IA defendem de forma cada vez mais unificada é a necessidade de estruturas de governança que existam fora das empresas e que tenham poder real sobre decisões de implantação. A analogia mais usada é com a indústria farmacêutica ou nuclear, onde o desenvolvimento privado existe dentro de um framework regulatório que define o que pode e o que não pode ser colocado no mercado sem aprovação independente. Ainda estamos muito longe disso para a IA. 🤔
Por que essa conversa importa agora
Existe uma tendência natural de reagir a declarações como a de Hubinger com uma combinação de ceticismo e fatalismo. Ou as pessoas acham que é exagero, ou acham que não tem nada a fazer mesmo, então por que se preocupar. As duas reações são problemáticas, porque o risco existencial que está sendo descrito aqui não é inevitável, ele é contingente. Depende de escolhas que estão sendo feitas agora, em laboratórios, em conselhos de administração, em órgãos regulatórios e em parlamentos ao redor do mundo.
Vale lembrar que Hubinger não está sozinho nesse tom de alerta. No início do mês, o cientista-chefe da OpenAI, Jakub Pachocki, pediu extrema cautela diante do progresso da IA, avisando que mais intervenção pode ser necessária para garantir que os humanos permaneçam no controle do futuro. Nos últimos meses, grandes nomes do setor vêm defendendo uma desaceleração no desenvolvimento da IA, incluindo os próprios chefões da Anthropic, Dario Amodei e Jared Kaplan.
O que torna a posição de Hubinger particularmente relevante é que ele não está pedindo para parar tudo. Ele está pedindo para levar a sério a possibilidade de que estamos subestimando o problema, e para investir em pesquisa de segurança com a mesma intensidade com que se investe em capacidades. Atualmente, a proporção entre pesquisa de capacidades e pesquisa de segurança nos grandes laboratórios ainda é dramaticamente desigual, com muito mais recursos e talento direcionados para fazer os modelos ficarem mais poderosos do que para garantir que esse poder seja seguro. Essa assimetria é o coração do problema.
A inteligência artificial é, sem dúvida, uma das tecnologias mais importantes que a humanidade já criou. O potencial dela para resolver problemas complexos em medicina, clima, educação e ciência é real e documentado. Mas esse potencial e os riscos associados não são separados. Eles vêm juntos, no mesmo pacote, e ignorar um lado para celebrar o outro é exatamente o tipo de pensamento que especialistas como Hubinger estão tentando corrigir. A boa notícia é que ainda há tempo para fazer isso direito. A má notícia é que esse tempo está diminuindo a cada trimestre. ⚠️
