Como a inteligência artificial transformou desinformação em negócio lucrativo
A velocidade com que ferramentas de inteligência artificial generativa evoluíram nos últimos meses criou um cenário que poucos previram com tanta clareza. Hoje, qualquer pessoa com acesso a um computador e uma conta gratuita em plataformas de IA consegue produzir vídeos falsos com qualidade visual suficiente para enganar milhões de pessoas. No contexto do conflito entre Estados Unidos e Israel contra o Irã, essa capacidade se tornou uma verdadeira máquina de fabricar narrativas fictícias que se espalham pelas redes sociais antes que qualquer verificação consiga alcançá-las.
Ferramentas como geradores de vídeo baseados em modelos de difusão permitem criar cenas de supostos bombardeios, explosões em cidades e até imagens de satélite completamente inventadas — tudo em questão de minutos e sem nenhum conhecimento técnico avançado. Como resume Timothy Graham, especialista em mídia digital da Queensland University of Technology: o que antes exigia uma produção audiovisual profissional agora pode ser feito em minutos com ferramentas de IA. A barreira para criar material sintético convincente sobre conflitos simplesmente deixou de existir.
O que a investigação da BBC Verify revelou vai além do problema técnico da criação desses conteúdos. O ponto central é que existe uma cadeia econômica sustentando toda essa produção de desinformação online. Criadores identificaram que vídeos com temas geopolíticos sensíveis — especialmente envolvendo conflitos militares — geram volumes absurdos de engajamento. Estamos falando de centenas de milhões de visualizações acumuladas em conteúdos que nunca aconteceram na vida real.
Casos concretos rastreados pela BBC Verify
A análise da BBC Verify identificou diversos exemplos específicos de como esse fenômeno está se manifestando. Um dos casos mais emblemáticos é o de um vídeo gerado por inteligência artificial que parecia mostrar mísseis atingindo a cidade de Tel Aviv, em Israel, com sons de explosões ao fundo. Esse único vídeo foi replicado em mais de 300 publicações diferentes, que por sua vez foram compartilhadas dezenas de milhares de vezes em múltiplas plataformas de redes sociais.
Detalhe importante e preocupante: alguns usuários do X, antigo Twitter, recorreram ao chatbot Grok da própria plataforma para tentar verificar se o vídeo era real. Em vários casos documentados pela BBC Verify, o Grok afirmou incorretamente que o vídeo gerado por IA era autêntico. Ou seja, a própria ferramenta de inteligência artificial embutida na plataforma acabou funcionando como um amplificador da desinformação em vez de combatê-la.
Outro vídeo fabricado que acumulou dezenas de milhões de visualizações mostrava o arranha-céu Burj Khalifa, em Dubai, supostamente em chamas, enquanto uma multidão corria em direção ao edifício. Esse conteúdo se espalhou num momento em que moradores e turistas estavam genuinamente preocupados com os ataques de drones e mísseis na região, o que potencializou o pânico e a confusão gerados pela desinformação.
Como destaca Mahsa Alimardani, pesquisadora especializada em Irã no Oxford Internet Institute, vídeos falsos como esses têm um impacto devastador na confiança das pessoas em relação a informações verificadas que elas encontram online, além de tornar muito mais difícil a documentação de evidências reais dos conflitos.
A novidade das imagens de satélite fabricadas por IA
Uma característica inédita desse conflito, identificada pela BBC Verify, é o surgimento de imagens de satélite geradas por inteligência artificial. Trata-se de um nível novo de sofisticação na produção de desinformação que não havia sido observado em conflitos anteriores.
O caso mais ilustrativo envolve os ataques iranianos com drones e mísseis ao quartel-general da Quinta Frota da Marinha dos Estados Unidos no Bahrein, ocorridos no primeiro dia do conflito. A BBC Verify verificou múltiplos vídeos reais mostrando esses ataques. Porém, no dia seguinte, uma foto fabricada começou a circular no X, compartilhada pelo jornal iraniano The Tehran Times, veículo ligado ao Estado iraniano. A imagem alegava mostrar danos extensos à base militar americana.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
A análise técnica revelou que a imagem falsa foi criada a partir de uma foto de satélite real da base naval americana no Bahrein, tirada em fevereiro de 2025 e disponível publicamente online. Um detalhe revelador denunciou a fraude: três veículos estacionados do lado de fora da base apareciam exatamente na mesma posição tanto na imagem de satélite genuína quanto na foto fabricada — apesar de supostamente terem sido capturadas com um ano de diferença. De acordo com o detector de marca d’água SynthID do Google, a imagem falsa foi gerada ou editada usando uma ferramenta de IA do próprio Google.
Outro exemplo documentado mostra uma imagem real de uma pequena nuvem de fumaça em uma base americana no Iraque que foi manipulada com inteligência artificial para parecer uma explosão massiva, amplificando dramaticamente a impressão de destruição.
O ciclo vicioso entre algoritmos e conteúdo fabricado
Para entender por que esse problema escalou tão rápido, é preciso olhar para a mecânica dos algoritmos de recomendação. As plataformas de redes sociais são projetadas para maximizar o tempo que você passa rolando o feed, e conteúdos que provocam reações emocionais fortes — como medo, raiva e indignação — são naturalmente priorizados pelos sistemas automatizados de distribuição.
Quando um vídeo falso mostrando um suposto ataque militar começa a receber curtidas, comentários e compartilhamentos, o algoritmo interpreta isso como um sinal de que aquele conteúdo é relevante e passa a distribuí-lo para ainda mais pessoas. Isso cria um ciclo que se retroalimenta: quanto mais desinformação circula, mais o sistema a amplifica, e mais dinheiro o criador recebe. Não existe, na prática, um mecanismo automático eficiente que diferencie um vídeo real de um conflito de uma fabricação completa feita por inteligência artificial.
Como observa Timothy Graham, a monetização baseada em engajamento e a informação precisa estão fundamentalmente em tensão, e nenhuma plataforma resolveu completamente essa contradição — e talvez nunca resolva.
A explosão de ferramentas acessíveis
O especialista em IA generativa Henry Ajder ressalta que o número de ferramentas diferentes agora disponíveis para criar manipulações de IA altamente realistas é sem precedentes. Nunca essas ferramentas foram tão acessíveis, tão fáceis e tão baratas de usar.
A lista de plataformas populares de geração de conteúdo por IA inclui o Veo do Google, o Sora da OpenAI, o aplicativo chinês Seedance e o próprio Grok, integrado diretamente ao X. Essa variedade de opções significa que criadores não dependem de uma única ferramenta e podem alternar entre elas para produzir conteúdo em volume industrial.
Victoire Rio, diretora executiva da organização sem fins lucrativos What To Fix, complementa que o pipeline entre a criação do conteúdo e sua publicação nas redes sociais agora pode ser quase totalmente automatizado. Isso explica o volume sem precedentes de material fabricado que surgiu durante esse conflito específico. 😮
A situação fica ainda mais complexa quando consideramos que muitos desses criadores operam em redes organizadas. Eles não são indivíduos isolados publicando um vídeo aqui e outro ali. São operações coordenadas que utilizam múltiplas contas, publicam em horários estratégicos e replicam o mesmo conteúdo com pequenas variações para evitar detecção automática. Algumas dessas contas chegam a acumular milhões de seguidores em poucas semanas, surfando justamente na onda de interesse público sobre o conflito.
A economia por trás da desinformação
Aqui entra o dado mais revelador de toda essa história. Segundo o chefe de produto do X, 99% das contas responsáveis por disseminar vídeos gerados por IA sobre o conflito estavam tentando explorar o sistema de monetização da plataforma, publicando conteúdo projetado para gerar volumes massivos de engajamento em troca de pagamento pelo programa Creator Revenue Sharing.
Ou seja, essas pessoas não estavam espalhando desinformação por convicção ideológica ou por acidente. Elas estavam fazendo isso deliberadamente para ganhar dinheiro.
A plataforma não divulga quantas contas participam desse programa nem quanto exatamente elas podem receber. Porém, Graham estima que o X paga cerca de oito a doze dólares por milhão de impressões de usuários verificados. Para ser elegível, o criador precisa atingir cinco milhões de impressões orgânicas em três meses e manter uma assinatura premium do X.
Na visão de Graham, uma vez dentro do programa, conteúdo viral gerado por IA funciona basicamente como uma máquina de imprimir dinheiro. Eles construíram o empreendimento definitivo de desinformação, afirma o pesquisador.
O que as plataformas estão fazendo e por que não é suficiente
As grandes plataformas de redes sociais têm anunciado medidas para combater a desinformação online gerada por inteligência artificial, mas a realidade mostra que essas ações ainda estão muito aquém do necessário.
O X anunciou durante essa semana que vai suspender temporariamente criadores do seu programa de monetização caso publiquem vídeos gerados por IA mostrando conflitos armados sem a devida identificação. Para Alimardani, trata-se de um sinal notável de que a plataforma reconheceu a gravidade do problema.
A BBC Verify procurou o TikTok e a Meta, empresa responsável pelo Facebook e Instagram, para saber se pretendiam adotar medidas semelhantes, mas nenhuma das duas respondeu aos pedidos de comentário. O silêncio das plataformas é, por si só, bastante revelador sobre a postura da indústria diante dessa crise.
O problema com as notas de comunidade e outros sistemas de moderação descentralizada é que eles dependem de volume e consenso entre os participantes. Muitas vezes a correção chega horas ou até dias depois que o conteúdo já viralizou e atingiu milhões de pessoas. Nesse intervalo, o estrago já está feito. A impressão inicial de um vídeo impactante mostrando uma suposta explosão é muito mais poderosa do que qualquer nota de correção que apareça depois, e a maioria dos usuários que viram o conteúdo original nunca chega a ver a retificação.
A contradição estrutural da monetização
Existe uma contradição estrutural que as plataformas ainda não resolveram. Por um lado, elas precisam oferecer programas atrativos de remuneração para manter criadores engajados e produzindo conteúdo, já que isso é o que sustenta o ecossistema inteiro. Por outro lado, esses mesmos programas acabam incentivando a produção de material sensacionalista e falso, porque o critério principal de remuneração costuma ser o volume de visualizações e engajamento, não a veracidade ou qualidade do conteúdo.
Enquanto essa lógica não mudar fundamentalmente, o incentivo financeiro para criar vídeos falsos sobre temas quentes como conflitos internacionais vai continuar existindo e, provavelmente, vai se intensificar à medida que as ferramentas de IA ficam mais acessíveis e poderosas.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Marcas d’água digitais e seus limites
Algumas iniciativas mais promissoras envolvem a adoção de marcas d’água digitais e metadados embutidos em conteúdos gerados por inteligência artificial. Ferramentas como o SynthID do Google já conseguem identificar quando uma imagem foi criada ou editada por IA. Empresas como Google, OpenAI e Meta estão desenvolvendo padrões conjuntos para que todo conteúdo sintético carregue uma espécie de assinatura digital invisível que permita sua identificação automática.
Porém, a implementação prática ainda enfrenta obstáculos consideráveis. Nem todas as ferramentas de geração de vídeo aderem a esses padrões, e técnicas simples de recompressão ou edição podem remover essas marcas com facilidade. Além disso, a adoção dessas soluções depende de cooperação internacional entre empresas, governos e desenvolvedores — algo que avança em ritmo bem mais lento do que a velocidade com que a desinformação se espalha. 🤔
O contexto do conflito que alimenta a desinformação
Para dimensionar o cenário em que toda essa onda de conteúdo fabricado surgiu, vale lembrar que os Estados Unidos e Israel começaram a lançar ataques contra o Irã em 28 de fevereiro. Em resposta, o Irã lançou ataques com drones e mísseis contra Israel, além de atingir múltiplas nações do Golfo e ativos militares americanos na região.
Muitas pessoas recorreram às redes sociais para buscar e compartilhar as informações mais recentes e para tentar entender uma semana de conflito extremamente dinâmica. Esse comportamento natural de busca por informação criou o terreno fértil perfeito para que os criadores de conteúdo falso explorassem a ansiedade e a curiosidade do público. Quando as pessoas estão com medo e querem respostas rápidas, a tendência de consumir e compartilhar conteúdo sem verificação aumenta drasticamente.
O papel do usuário na contenção desse fenômeno
Em meio a esse cenário, a responsabilidade individual ganha um peso enorme. Antes de compartilhar qualquer vídeo impactante sobre o conflito ou qualquer outro tema sensível, vale a pena dedicar alguns segundos para verificar a fonte original da publicação. Contas recém-criadas, com poucos seguidores mas com conteúdos virais, são um sinal clássico de operações voltadas para monetização através de desinformação.
Outro indicador importante é observar se veículos de imprensa reconhecidos estão reportando o mesmo evento. Se um suposto ataque militar aparece apenas em contas de redes sociais e não tem cobertura jornalística correspondente, as chances de ser conteúdo fabricado por IA são altíssimas.
O cenário atual exige também uma atualização na forma como consumimos informação. A era dos vídeos falsos hiperrealistas chegou de vez, e a tendência é que a qualidade desses conteúdos só melhore com o tempo. Organizações como a BBC Verify e outras iniciativas de fact-checking desempenham um papel fundamental nesse ecossistema, mas não conseguem dar conta do volume de conteúdo fabricado que surge diariamente.
A combinação entre alfabetização digital mais robusta, regulamentação mais inteligente por parte dos governos e responsabilidade genuína das plataformas parece ser o caminho mais viável para reduzir o impacto dessa nova forma de desinformação. Enquanto isso, a melhor defesa continua sendo o ceticismo saudável diante de qualquer conteúdo que pareça dramático demais para ser verdade — porque, cada vez mais, ele provavelmente não é. 🧐
