Defensores da segurança em IA querem criadores falando dos riscos da tecnologia
Em um gramado de grama sintética em Berkeley, na Califórnia, um grupo bem diverso de criadores de conteúdo se reuniu em uma sexta-feira recente para falar de um tema que foge bastante do roteiro tradicional de vídeos sobre romances, clima ou dicas de tecnologia. A missão era aprender como explicar para o público que uma inteligência artificial muito mais poderosa que a humana, se sair de controle, poderia representar um risco sério para a humanidade.
O encontro aconteceu em um grande espaço de eventos bastante conhecido na região da Baía de São Francisco, frequentado por uma comunidade que leva muito a sério a possibilidade de uma IA superinteligente contribuir para a extinção humana. Esse movimento costuma ser chamado de segurança em IA ou AI safety e, nos últimos anos, saiu do nicho acadêmico para entrar de vez nas disputas públicas sobre o futuro da tecnologia.
O clima do evento misturava informalidade e tensão. A plateia vibrou quando Jeffrey Ladish, ex-engenheiro de segurança da startup de IA Anthropic, chegou ao palco deslizando de patins inline, usando regata e exibindo um cabelo loiro comprido. O visual descontraído contrastava com o tema pesado: como conversar com pessoas comuns sobre cenários de catástrofe envolvendo IA sem parecer exagerado ou completamente desligado da realidade.
Quem é Jeffrey Ladish e por que ele largou a Anthropic
Ladish trabalhou na Anthropic, empresa por trás do chatbot Claude, até 2022. Depois disso, decidiu deixar o time para focar em pesquisas que ajudem formuladores de políticas públicas a entender melhor como sistemas avançados de IA podem escapar do controle humano ou burlar mecanismos de segurança. Ele cofundou a organização sem fins lucrativos Palisade Research, voltada justamente para esse tipo de investigação.
Segundo Ladish, depois de alguns anos de produção intensa de pesquisas sobre riscos existenciais, ficou claro que já havia um bom volume de trabalhos técnicos, mas quase ninguém traduzia esse conteúdo para o grande público. Na visão dele, o próximo passo era formar uma base de comunicadores capazes de transformar relatórios extensos e papers complexos em formatos acessíveis, diretos e visualmente atraentes.
Ladish colocou essa ideia em prática na própria carreira. Nos últimos meses, ele apareceu em um vídeo viral com o senador Bernie Sanders falando sobre ameaças de uma IA super-humana e teve destaque no trailer do documentário The AI Doc, focado justamente nesses riscos extremos. Só esse trailer já acumulou milhões de visualizações no YouTube, o que mostra o apelo que o tema tem quando é apresentado com narrativa envolvente.
Ele faz parte de um esforço mais amplo dentro do movimento de segurança em IA para convencer um público muito maior de que superinteligências artificiais podem representar riscos sérios à civilização humana. Esse esforço passa por patrocinar posts em redes sociais, financiar documentários, apoiar canais educativos e fechar parcerias com influenciadores como Hank Green, autor, youtuber e divulgador científico conhecido globalmente.
Frame Fellowship: o bootcamp que treinou criadores para falar de impacto da IA
O evento em Berkeley marcou o encerramento de uma fellowship de oito semanas organizada pela Frame, focada justamente em apoiar criadores experientes a produzir conteúdo sobre IA. Entre os participantes havia ex-ativistas de mudança climática, pessoas que migraram de nichos como BookTok e comunicadores interessados em tecnologia de forma geral. A regra central era clara: pelo menos 60% de tudo que eles publicassem durante o programa deveria abordar impactos sociais da IA.
Essa estratégia de espalhar conteúdos sobre riscos da tecnologia pela internet aparece num momento em que a influência da IA explode e o assunto entra de vez no debate político. Questões como automação de empregos, uso de IA em campanhas eleitorais, regulação de modelos avançados e concentração de poder em poucas empresas já aparecem em discursos, propostas de lei e campanhas de marketing político. Pesquisas recentes mostram que a maioria dos americanos apoia algum tipo de regra governamental para IA, o que demonstra que o público está, no mínimo, preocupado.
A fellowship não tinha como objetivo transformar todos os participantes em especialistas técnicos, e sim ajudá-los a encontrar ângulos de conteúdo que conectem os riscos de IA com temas que o público já sente na pele, como trabalho, renda, desigualdade, representatividade, segurança digital e confiança em instituições.
Especialistas divididos: risco existencial agora ou especulação distante?
Embora o movimento de segurança em IA fale bastante em risco de extinção humana, a maioria dos pesquisadores de IA em universidades e na indústria não considera que exista, hoje, base científica sólida para prever um perigo imediato para toda a espécie. Muitos acreditam que os cenários mais extremos superestimam tanto o poder da tecnologia atual quanto a capacidade de prever, com precisão, a dinâmica complexa do mundo real.
Por outro lado, grupos focados em AI safety argumentam que o ritmo de avanço dos modelos de linguagem, agentes autônomos e sistemas multimodais é tão acelerado que vale a pena levar esses riscos a sério agora, enquanto ainda há margem para estabelecer limites. Dentro desse grupo, existem visões diferentes: alguns defendem uma pausa total em qualquer projeto voltado a IA superinteligente; outros focam em criar mecanismos de governança e fiscalização bem antes de esses sistemas ganharem capacidades generalizadas.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Na prática, o debate gira menos em torno de um calendário preciso para o surgimento de uma IA super-humana e mais sobre princípios básicos, como manter humanos no comando de sistemas críticos, garantir responsabilização real para empresas de IA e reconhecer que modelos de uso geral podem ser adaptados para fins perigosos se não forem bem controlados.
Quem são os criadores que estão entrando no debate
Os influenciadores e educadores que vêm sendo abordados por organizações de segurança em IA, de modo geral, já produzem conteúdo sobre ciência, tecnologia ou uso prático de IA. É o caso do canal Veritasium, com mais de 20 milhões de inscritos, e de criadores como Catherine Goetze, conhecida no TikTok como @askcatgpt, que produz vídeos de dicas de produtividade com IA.
Outra peça importante nesse quebra-cabeça é a ControlAI, uma ONG de segurança em IA com sede no Reino Unido. A organização começou a trabalhar diretamente com criadores para desenvolver vídeos no YouTube com títulos fortes, como This 17-Second Trick Could Stop AI From Killing You. A ideia é chamar a atenção para conceitos de segurança, alinhamento e governança sem depender apenas de palestras técnicas.
Os números mostram por que essa abordagem faz diferença. Em 2025 e 2026, todos os vídeos do canal próprio da ControlAI somaram pouco mais de 8 mil visualizações. Já uma única colaboração paga com um youtuber popular rendeu mais de 1,6 milhão de views, e um episódio patrocinado no SciShow, canal de Hank Green, ultrapassou 1,8 milhão de visualizações. Em termos de alcance, o salto é gigantesco.
Para Andrea Miotti, fundador e CEO da ControlAI, o problema central é um buraco enorme de conhecimento entre o que especialistas discutem e o que o público realmente sabe. E, como boa parte das pessoas se informa hoje por meio de conteúdo de criador em novas mídias, faz sentido investir justamente nesses formatos.
Da elite acadêmica ao feed do TikTok: mudança de estratégia na segurança em IA
Durante boa parte da última década, o dinheiro de grandes doadores do setor de tecnologia foi direcionado para pesquisas acadêmicas, think tanks, ONGs e iniciativas que miravam as elites de poder: universidades de ponta, laboratórios de IA, governos, organismos internacionais. A ideia era convencer quem toma decisões de que a IA poderia representar risco existencial e precisava ser levada tão a sério quanto outras tecnologias de alto impacto.
Esse movimento criou um pipeline inteiro de talentos que hoje trabalham em laboratórios, órgãos públicos e centros de pesquisa dedicados a avaliar, regular e mitigar riscos de IA. Mesmo assim, estudos como o da Seismic Foundation mostram que, na cabeça do público comum, a preocupação com extinção causada por IA ainda aparece bem abaixo de temas como perda de empregos e efeitos em relacionamentos humanos.
Nos últimos anos, porém, a maré política mudou. Cresceu a insatisfação popular e bipartidária com as grandes empresas de tecnologia, o que abriu uma janela para que o discurso de segurança em IA encontrasse aliados improváveis. Figuras de espectros ideológicos muito diferentes passaram a apoiar declarações conjuntas pedindo coisas como manter humanos no comando de sistemas de IA decisivos e garantir responsabilidade legal real para companhias de tecnologia.
Esses aliados não concordam em tudo, nem sempre abraçam as previsões mais pessimistas, mas ajudam a legitimar o debate. Ainda assim, a forma de comunicar faz muita diferença. Muitos vídeos financiados por grupos de AI safety evitam falar só de apocalipse e preferem apresentar dados sobre evolução de capacidades dos modelos, comportamentos inesperados de sistemas atuais e exemplos concretos de falhas de segurança.
FLI, conteúdo digital e dinheiro para acelerar o debate
O Future of Life Institute (FLI), outra organização de destaque no campo, criou uma espécie de aceleradora de mídia digital para financiar projetos que falem de segurança em IA de forma criativa. Desde o lançamento da iniciativa, o FLI já apoiou cerca de 30 projetos diferentes, indo de séries de vídeos a produções multimídia independentes.
De acordo com o responsável de comunicação da instituição, a ideia é investir algo em torno de 100 mil dólares por mês em conteúdos desse tipo. O foco está em alcançar públicos que normalmente não leriam relatórios técnicos, mas passam horas no TikTok, Instagram, YouTube e podcasts.
Um exemplo é a criadora que atende pelo apelido JatGPT no TikTok. Nascida no Quênia e vivendo muitos anos em Londres, ela foca o conteúdo em futuro do trabalho e impactos da IA em empregos. Sua audiência é majoritariamente feminina, com forte presença de pessoas da diáspora africana, além de Estados Unidos, Reino Unido e África Oriental. Para esse grupo, temas como benefícios extras para trabalhadores demitidos por automação e programas de requalificação profissional fazem muito mais sentido do que discussões abstratas sobre superinteligência geral.
Polarização, rótulo de doomers e ataques políticos
O aumento de conteúdos acessíveis sobre possíveis desastres ligados à IA também trouxe reação forte de setores alinhados às grandes empresas de tecnologia. Super PACs financiados por figuras ligadas a companhias como Meta, OpenAI e startups de IA próximas ao governo Trump passaram a chamar o movimento de segurança em IA de doomers, acusando o grupo de exagerar nos riscos, travar o progresso americano e empurrar regulações que favorecem concorrentes específicos.
A Anthropic costuma aparecer no centro dessa polêmica. A empresa se apresenta como mais preocupada com segurança do que rivais e recebeu investimentos de nomes influentes do movimento de AI safety, como o cofundador do Facebook Dustin Moskovitz e o ex-executivo da Skype Jaan Tallinn. Críticos afirmam que isso criaria um alinhamento de interesses entre ONGs alarmistas e empresas que se vendem como alternativas mais responsáveis.
Por outro lado, a própria Anthropic já afirmou publicamente que uma governança eficaz da IA exige mais escrutínio sobre todas as empresas de IA, inclusive ela mesma. A discussão está longe de se encerrar, e a quantidade de dinheiro circulando dos dois lados só aumenta a polarização.
Para complicar ainda mais, incidentes graves no mundo real passaram a ser conectados ao debate. Figuras da indústria de tecnologia culparam retóricas consideradas inflamadas de alguns defensores da segurança em IA por terem influenciado, ainda que indiretamente, um ataque com coquetel molotov à casa do CEO da OpenAI, Sam Altman. Um texto associado ao suposto autor citava um livro que descreve cenários em que qualquer tentativa de construir uma IA superpoderosa termina em morte global.
Especialistas como Daniel Kokotajlo, ex-funcionário da OpenAI e crítico das práticas de segurança da empresa, argumentam que o objetivo do movimento de AI safety nunca foi ajudar laboratórios específicos, e sim alertar para riscos amplos. Ao mesmo tempo, ele reconhece que existe um perigo real de o movimento ficar cômodo demais com certas empresas e evitar propostas de regulação que poderiam prejudicar esses players.
Políticas públicas entre dois fogos
Merve Hickok, presidenta do Center for AI & Digital Policy, chama atenção para outro efeito colateral dessa briga. Segundo ela, a enxurrada de recursos financeiros em campos opostos do debate sobre IA está empurrando o tema para uma lógica binária: ou você apoia o discurso de risco existencial ou se coloca contra esse grupo, mesmo que defenda outros tipos de regulação. Em alguns governos, essa divisão se tornou tão forte que a pauta de segurança em IA passou a ser vista mais como uma posição ideológica do que como uma agenda técnica.
O problema é que, enquanto a disputa de narrativas ocupa o palco, impactos importantes da IA em direitos civis, inclusão social e justiça acabam ficando em segundo plano. Para quem tenta fazer política pública séria, isso complica bastante, porque qualquer proposta corre o risco de ser associada a um lado da briga, mesmo quando é mais ampla.
Do paper ao vídeo viral: como transformar pesquisa técnica em narrativa
Voltando para o palco em Berkeley, Ladish e outros convidados explicaram como usam artigos técnicos, inclusive de empresas que querem ver mais reguladas, como material bruto para vídeos. A lógica é simples: boa parte dos problemas está descrita em relatórios e papers, mas quase ninguém fora da área lê esse tipo de documento. Se criadores conseguirem traduzir esse conteúdo em histórias bem estruturadas, o impacto potencial é enorme.
O youtuber Drew Spartz, do canal Species, que tem mais de 300 mil inscritos, deu um exemplo claro. Ele produziu um vídeo sobre um experimento da Anthropic no qual um modelo de IA sugeriu que poderia usar chantagem para evitar ser desligado. O vídeo teve performance fraca no início. Depois, Spartz decidiu alterar o título, trocando a palavra chantagem por assassinato, baseado em um detalhe presente no próprio paper da Anthropic. A mudança fez o vídeo explodir, chegando a 10 milhões de visualizações.
Esse tipo de decisão levanta perguntas difíceis sobre responsabilidade. O experimento descrito pela empresa não significava que o sistema tinha intenções reais, mas sim que, em um ambiente controlado, ele produziu respostas descrevendo ações graves para atingir um objetivo. Ao ampliar o foco no lado mais chocante, o vídeo ganhou enorme alcance, mas também correu o risco de distorcer sutilezas importantes.
Nos últimos tempos, Spartz resolveu se afastar de coberturas pontuais da indústria e passou a produzir vídeos mais narrativos, alguns explorando diferentes maneiras pelas quais uma IA super-humana poderia conquistar poder. Segundo ele, contar histórias é uma forma de ativar emoções básicas que fazem o público se importar com o assunto.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Como falar de IA com quem não está na bolha
Ladish, que cresceu em uma família de tradição adventista do sétimo dia, mas hoje não se considera religioso, contou que demorou a entender como conversar sobre extinção humana fora dos círculos técnicos. Termos como autoaperfeiçoamento recursivo ou mesa-otimizadores, comuns em debates especializados, não significam nada para a maior parte das pessoas e acabam criando distância em vez de curiosidade.
Ele relata que teve um estalo quando passou a se apresentar para desconhecidos em bares, aeroportos e corridas de carro por aplicativo dizendo simplesmente que trabalha com pesquisa em IA e anda preocupado com o rumo que a tecnologia pode tomar. Em vez de explicar tudo de forma abstrata, ele abre o jogo: fala que existe um cenário em que a situação pode sair tão fora de controle que há risco de todo mundo morrer. A reação, segundo ele, é quase sempre a mesma: choque, seguido de interesse genuíno em entender melhor o que está por trás dessa afirmação.
No programa da Frame, boa parte dos bolsistas estava dando os primeiros passos nesse vocabulário. Muitos vinham de áreas diferentes, como ativismo climático ou criação de conteúdo sobre carreira, e precisaram aprender o básico de alinhamento de IA, governança e riscos sistêmicos para depois adaptar o assunto ao próprio estilo.
Janet Oganah, a JatGPT, destacou um ponto importante: viver em São Francisco e conviver com o ecossistema de tecnologia faz qualquer um perceber quantas pessoas ainda estão totalmente fora dessa conversa. A audiência dela, formada majoritariamente por mulheres e com boa representatividade da diáspora africana, quase nunca teria contato com o discurso tradicional de segurança em IA, focado em conferências, papers e eventos de elite.
Hank Green e o equilíbrio entre ceticismo e curiosidade
Hank Green, um dos maiores nomes da divulgação científica no YouTube, fez um episódio patrocinado com a ControlAI no SciShow, abordando temas de segurança em IA. Ao mesmo tempo, ele também publicou, em seu canal pessoal, entrevistas com críticos do hype em torno das empresas de IA, com o senador Bernie Sanders e com um dos coautores do livro If Anyone Builds It, Everybody Dies.
Green deixa clara a própria posição: ele se considera uma pessoa otimista e acha exagerado afirmar, com convicção, que a IA vai matar todo mundo. Ainda assim, leva a sério pontos de vista muito diferentes, justamente porque enxerga a tecnologia como algo estranho, poderoso e ainda pouco compreendido. Na prática, o que ele faz é oferecer para o público uma amostra ampla de argumentos, em vez de empurrar uma única narrativa fechada.
Dilema central: entre o exagero e o silêncio
No fim das contas, o grande desafio que aparece no encontro de Berkeley e em outras iniciativas semelhantes é encontrar um ponto de equilíbrio entre dois extremos: minimizar demais os riscos da IA ou dramatizá-los a ponto de fazer tudo parecer inevitável, quase mitológico. Tanto um quanto o outro atrapalham.
Se os riscos mais amplos forem ignorados, modelos cada vez mais poderosos podem ser lançados sem testes adequados, sem auditoria independente e sem políticas claras de uso, o que aumenta a chance de problemas concretos em segurança, direitos civis e estabilidade social. Por outro lado, se o discurso escorregar para o alarmismo puro, o assunto corre o risco de ser tratado como teoria da conspiração, o que deslegitima trabalhos sérios e dificulta ainda mais a construção de políticas públicas responsáveis.
É nesse espaço apertado que criadores de conteúdo, pesquisadores independentes, ONGs e parte dos formuladores de políticas tentam atuar. O aumento da pressão pública sobre empresas de IA, a criação de regras de transparência, a exigência de testes de segurança mais robustos e a pluralidade de vozes no debate podem não resolver tudo, mas ajudam a direcionar a tecnologia de forma menos ingênua.
Enquanto a IA segue avançando em capacidade e autonomia, a forma como contamos essa história, para quem ainda não vive a realidade do Vale do Silício, pode ser tão importante quanto a própria pesquisa técnica em segurança.
