Tentei provar que não sou uma inteligência artificial. Minha tia não se convenceu
A inteligência artificial chegou a um ponto que ninguém esperava tão cedo: ela não apenas imita vozes e rostos com perfeição assustadora, mas também está destruindo algo muito mais valioso do que qualquer dado pessoal — a nossa capacidade de provar que somos reais. 😮
Parece exagero? Então imagine ligar para alguém que te conhece desde criança, passar alguns minutos conversando, e essa pessoa ainda assim terminar a chamada sem ter certeza absoluta de que estava falando com você de verdade.
Foi exatamente isso que aconteceu com o jornalista Thomas Germain, da BBC, quando testou um experimento simples com sua tia Eleanor. Ele ligou para a tia e explicou que faria uma segunda chamada, na qual ela estaria falando com ele de verdade ou com um deepfake gerado por IA. A missão dela era descobrir qual das opções era a real. Eleanor começou confiante. Disse que achava que era o sobrinho, porque a voz tinha inflexões naturais demais para ser algo gerado por máquina. Mas quando Germain comentou que a tecnologia estava ficando bastante avançada, veio um longo silêncio. A tia recuou e admitiu que aquilo começava a soar mais artificial.
Não foi um deepfake elaborado com estúdio profissional. Foi algo que qualquer pessoa com um computador e acesso à internet conseguiria reproduzir hoje. E se você acha que isso é um problema só de quem está do lado de fora sendo enganado, prepare-se: a virada mais perturbadora dessa história é que a ameaça agora vem do outro lado.
O problema não é só você ser enganado por uma deepfake. O problema é você não conseguir provar que não é uma.
Quando até um primeiro-ministro falha em provar que é real
Se uma tia amorosa já tem dificuldade em reconhecer o próprio sobrinho, imagine o desafio quando o público é o mundo inteiro. Foi isso que aconteceu com o primeiro-ministro de Israel, Benjamin Netanyahu, em um episódio que ganhou proporções surreais nas redes sociais.
Netanyahu publicou um vídeo em que um truque de iluminação criou a impressão de que ele tinha um sexto dedo na mão direita. Esse detalhe, que há alguns anos era uma falha clássica de imagens geradas por inteligência artificial, disparou uma avalanche de rumores online. Pessoas passaram a afirmar que Netanyahu havia morrido em um ataque com mísseis e que Israel estaria usando um deepfake para esconder o fato. A teoria se espalhou rapidamente e com uma convicção impressionante.
Dias depois, o primeiro-ministro gravou um segundo vídeo em uma cafeteria, sorrindo e levantando as mãos para mostrar que tinha a quantidade normal de dedos. Quando nem isso funcionou, veio um terceiro vídeo. Mesmo assim, uma parcela significativa do público continuou convicta de que tudo era fabricado.
De acordo com especialistas consultados pela BBC, esse foi o primeiro caso documentado em que o líder de uma grande potência mundial tentou abertamente provar que não era uma criação de IA. E falhou miseravelmente. Jeremy Carrasco, cofundador da publicação independente Riddance, focada em mídia gerada por inteligência artificial, analisou os vídeos e concluiu rapidamente que todos eram reais. O suposto sexto dedo, segundo ele, era apenas luz refletindo na palma da mão de Netanyahu. Parece estranho se você pausar no momento certo, mas é só isso.
Carrasco também destacou que dedos extras não são mais uma falha típica de IA. As melhores ferramentas pararam de cometer esse erro anos atrás, e um modelo capaz de gerar todo o restante do vídeo com aquele nível de qualidade simplesmente não cometeria esse tipo de deslize. Além disso, em determinado momento do vídeo, Netanyahu esbarra no microfone, produzindo um som que interrompe o áudio da fala. Esse tipo de continuidade física e sonora é extremamente difícil de reproduzir com ferramentas de IA atuais.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Hany Farid, professor de perícia digital na Universidade da Califórnia em Berkeley e cofundador da GetReal Security, também confirmou a autenticidade. Sua equipe realizou análise de voz, detecção facial quadro a quadro e inspeção detalhada de luz e sombras. O veredito foi claro: não havia nenhuma evidência de que o conteúdo fosse gerado por inteligência artificial.
Mas para uma parte do público, nada disso importou. As mentes já estavam feitas.
Quando a desconfiança bate à porta de casa
O próprio Germain passou por uma situação parecida na vida real, semanas antes do experimento com a tia. Ele havia escrito um artigo sobre uma configuração de privacidade pouco utilizada do Google e ficou tão entusiasmado que compartilhou o link no grupo de família pedindo para todos clicarem. Sua mãe desconfiou imediatamente. E com razão — o comportamento era incomum.
A mãe escreveu no grupo pedindo que ele dissesse algo que um golpista não conseguiria dizer. Germain pensou por um momento e usou um apelido de infância que seus pais costumavam usar. Funcionou, mas ele mesmo reconhece que essa solução só é viável quando você lida com pessoas que te conhecem intimamente. Quando o público é anônimo e massivo, como no caso de Netanyahu, a situação é completamente diferente.
Aliás, durante a própria entrevista com Hany Farid, Germain fez a pergunta diretamente: existe algo que eu possa fazer agora, neste momento, para provar que não sou uma IA?
A resposta foi direta e desconfortável: não.
Farid explicou que existem indícios que tornam a coisa menos provável. Por exemplo, ele conseguia ouvir Germain digitando, algo que uma IA agentiva provavelmente não reproduziria. Havia uma sombra ao fundo que se movia de forma fisicamente consistente, e reflexos nos óculos do jornalista que pareciam naturais. Germain também olhava para baixo enquanto fazia anotações, algo que um deepfake não se preocuparia em simular.
Mas nada disso era conclusivo. Ambos estavam em cidades diferentes — Germain em Nova York, Farid em Berkeley — conectados por uma videochamada. E em uma videochamada, tudo pode ser fabricado.
Sem medidas adicionais tomadas antes ou depois da conversa, Farid disse que não havia como ter 100% de certeza. A frase que resumiu tudo foi dura e simples: acabou, não tem mais como garantir.
O dividendo do mentiroso
Samuel Woolley, pesquisador e diretor de estudos sobre desinformação na Universidade de Pittsburgh, foi igualmente difícil de convencer. Ele disse que poderia ligar para a BBC e pedir para alguém confirmar a identidade de Germain, mas isso levaria tempo demais durante uma ligação em tempo real. Para a pessoa comum, e até para quem entende de manipulação tecnológica, verificar se alguém é real tornou-se uma tarefa extremamente difícil.
Esse cenário tem um nome entre os pesquisadores: o dividendo do mentiroso. O conceito é simples e poderoso. Provar que algo é real custa caro em tempo, recursos e expertise técnica. Mas lançar dúvidas sobre a autenticidade de qualquer coisa é essencialmente gratuito. Basta questionar. Basta sugerir que pode ser falso. E pronto, o estrago está feito.
Woolley observou que pessoas em posições de poder podem usar o espectro da IA como escudo, alegando que evidências legítimas contra elas são deepfakes. Mas essa mesma atmosfera de desconfiança se volta contra esses mesmos atores. Os políticos que empurraram a falta de moderação nas plataformas agora estão, de muitas formas, pagando as consequências disso. É uma espada de dois gumes que corta dos dois lados com a mesma eficiência. ⚔️
O caos escala conflito a conflito
Farid trouxe uma perspectiva temporal que ajuda a entender a velocidade com que a situação se deteriorou. Nos primeiros dias do conflito na Ucrânia, em 2022, apareceram alguns deepfakes, mas eram toscos e pouco convincentes. Quando o conflito em Gaza se intensificou, a quantidade de conteúdo falso cresceu significativamente e a qualidade melhorou muito. Na Venezuela, o cenário ficou ainda mais extremo — Farid disse que viu mais conteúdo falso do que real. E o Irã elevou tudo a um patamar inédito.
No caso de Netanyahu, a equipe dele não ajudou ao filmar com uma câmera sofisticada e profundidade de campo reduzida, que cria aquele visual de primeiro plano nítido com fundo desfocado. Esse é exatamente o tipo de estética que vídeos gerados por IA costumam produzir, segundo Carrasco. Mas quando o vídeo da cafeteria foi publicado, o mundo já estava tão saturado de conteúdo sintético que qualquer material, por mais autêntico que fosse, enfrentava uma muralha de ceticismo praticamente intransponível.
A solução mais antiga do mundo
Diante de toda essa sofisticação tecnológica, a solução que os maiores especialistas do planeta recomendam é quase cômica de tão simples: palavras-código.
Sim, aquela mesma ideia que seus avós poderiam ter inventado. A recomendação é que você, sua família, parceiros de negócios e qualquer pessoa com quem se comunique sobre assuntos importantes criem uma frase secreta que ninguém mais conheça. Essa frase pode ser usada em emergências para verificar a identidade de cada um. Funciona como uma forma rudimentar de autenticação multifator, aquela mesma que usamos para fazer login em contas online.
Farid revelou que ele e a esposa têm uma palavra-código para situações de chamadas suspeitas. Ainda não precisaram usar de verdade, mas às vezes ele testa só para garantir que nenhum dos dois esqueça.
A tia Eleanor, aliás, já conhecia essa recomendação. Ela contou que tem uma palavra-código com os filhos e o marido, mas Germain não estava incluído nesse combinado. Eleanor também mencionou que tinha lido muitas histórias sobre vozes sendo clonadas a partir de vídeos no YouTube, e disse que isso a preocupava profundamente. A palavra que ela usou foi aterrorizante.
Golpes com deepfake já são uma epidemia
E essa preocupação não é infundada. Golpes usando deepfake, nos quais a IA é usada para convencer vítimas de que estão falando com outra pessoa, tornaram-se um dos métodos preferidos de criminosos digitais. Segundo a Associação Americana de Aposentados, os golpes habilitados por inteligência artificial cresceram 20 vezes entre 2023 e 2025. As vítimas vão desde pessoas comuns até grandes corporações.
O caso mais emblemático é o da empresa britânica de engenharia Arup, que teria perdido cerca de 25 milhões de dólares quando criminosos usaram uma versão falsificada por deepfake do diretor financeiro da empresa para enganar um funcionário e autorizar transferências milionárias.
E o problema só continua crescendo. 📈
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Identidade digital no centro do debate global
Diante desse cenário, a discussão sobre identidade digital ganhou uma urgência que vai muito além do universo da tecnologia e chegou aos governos, às cortes judiciais e aos organismos internacionais. A pergunta central é simples de formular e extremamente difícil de responder: como garantir que uma pessoa é quem diz ser em um ambiente onde qualquer sinal biométrico pode ser fabricado com precisão suficiente para enganar sistemas automatizados e humanos ao mesmo tempo?
Algumas abordagens estão sendo exploradas. Sistemas de credencial verificável baseados em criptografia, onde a identidade de uma pessoa é ancorada em chaves criptográficas impossíveis de falsificar sem acesso à chave privada, têm ganhado atenção crescente. A ideia é separar a verificação de identidade da biometria, que já se mostrou vulnerável, e ancorá-la em princípios matemáticos que a inteligência artificial não consegue replicar com os recursos computacionais disponíveis hoje.
Na frente regulatória, a União Europeia já aprovou o AI Act, que inclui obrigações específicas para sistemas que geram conteúdo sintético, exigindo marcação explícita e estabelecendo responsabilidades para quem distribui deepfakes com intenção de enganar. Nos Estados Unidos, estados como Califórnia e Texas já possuem legislação sobre o uso de deepfakes em contextos eleitorais. O Brasil também está em processo de discussão do marco regulatório da inteligência artificial, e a questão da identidade digital certamente terá espaço nesse debate. 🇧🇷
O adeus incerto da tia Eleanor
De volta à ligação com a tia Eleanor, a realidade estava se dobrando sobre si mesma. Eleanor leu algumas piadas que encontrou no Facebook para testar se a reação do sobrinho parecia autêntica. Germain riu, o que ajudou um pouco. Depois, os dois começaram a conversar sobre o suéter que ela estava planejando tricotar para ele. Mas quando o jornalista disse que talvez preferisse preto em vez do dourado que haviam combinado antes, Eleanor viu isso como mais um sinal suspeito.
Para ela, aquilo soou robótico. Ela esperava que o sobrinho pedisse outro suéter dourado.
Mais tarde, Germain revelou a verdade: não havia nenhuma IA envolvida na chamada. Era ele o tempo todo. Mas durante a conversa, a incerteza claramente incomodou a tia. A situação toda pareceu causar um certo desconforto emocional nela.
Ao se despedir, Eleanor disse a frase que resume perfeitamente o estado em que todos nós nos encontramos agora:
Eu não consigo ter certeza. Mas eu te amo, garoto.
Essa frase carrega algo que nenhum algoritmo consegue replicar — pelo menos por enquanto. Mas também carrega a dúvida que a inteligência artificial plantou em um terreno que antes era sólido. O que fica claro, olhando para tudo isso, é que a tecnologia que criou o problema também vai precisar fazer parte da solução. Mas tecnologia sozinha não resolve uma crise de confiança. Enquanto os sistemas técnicos e regulatórios não convergirem para uma resposta coordenada, cada um de nós vai continuar navegando em um ambiente onde ver não é mais sinônimo de crer, e onde provar que somos reais pode ser tão difícil quanto provar que algo é falso.
