IA como arma: como a Inteligência Artificial está sendo usada contra mulheres muçulmanas na Índia
A Inteligência Artificial chegou para transformar muita coisa no mundo, e a gente já sabe que nem todas essas transformações são positivas.
Enquanto empresas de tecnologia debatem governança, regulação e inovação responsável, uma realidade bem mais sombria vem se desenhando nas redes sociais da Índia: ferramentas de IA sendo usadas como armas contra mulheres muçulmanas, criando vídeos e imagens falsos com poder de destruir reputações, carreiras e vidas inteiras.
Samreen Ayoub, modelo freelancer de 24 anos da Caxemira administrada pela Índia, descobriu isso da pior forma possível. No ano passado, enquanto navegava pelo celular, uma amiga lhe enviou um vídeo que circulava pelo Instagram. O que ela viu a deixou completamente paralisada: um clipe que parecia um segmento jornalístico de televisão, com narrador, legendas rolando na tela e manchetes, tudo montado com fotos reais da sua vida universitária na Jamia Millia Islamia, em Nova Delhi. O conteúdo era inteiramente fabricado e a acusava falsamente de ser uma mulher muçulmana que vendia o próprio corpo para homens hindus. Pior ainda: seu próprio irmão foi identificado erroneamente como seu cafetão.
Era stalking na forma mais elaborada possível, como ela mesma descreveu. Os criadores do vídeo tinham rastreado sua vida desde o primeiro semestre da universidade até o último, costurando imagens de momentos cotidianos do campus, como projetos em grupo, festas de despedida e selfies com colegas.
Isso não é um caso isolado. Uma pesquisa do Center for the Study of Organized Hate (CSOH), sediado em Washington, analisou 1.326 imagens e vídeos gerados por IA coletados de 297 contas públicas no X, Facebook e Instagram entre maio de 2023 e maio de 2025. Os números são impactantes: conteúdos sexualizados envolvendo mulheres muçulmanas acumularam mais de 6,7 milhões de interações nas plataformas, liderando o engajamento entre todos os tipos de conteúdo analisados. 😳
O problema vai muito além do assédio online convencional. Pesquisadores identificaram um padrão ideológico claro nessas imagens geradas por IA, e especialistas em mídia já têm um nome para o fenômeno: a pornificação da política, onde humor, memes e conteúdo sexualizado se combinam para normalizar o abuso e transformar corpos de mulheres em território de disputas políticas e religiosas.
O que está acontecendo na Índia é um alerta para o mundo inteiro sobre como a IA pode ser usada como ferramenta de opressão quando as estruturas legais, as plataformas digitais e a sociedade não estão preparadas para responder.
Como a IA virou ferramenta de assédio organizado
O caso de Samreen não surgiu do nada. Ele faz parte de um movimento muito mais amplo e coordenado, onde grupos organizados utilizam ferramentas de Inteligência Artificial generativa para produzir conteúdo falso em escala industrial. O que antes exigia habilidades técnicas avançadas de edição de vídeo e design gráfico, hoje pode ser feito em minutos por qualquer pessoa com acesso a um aplicativo gratuito.
Como destacou Zenith Khan, coautora do estudo do CSOH e analista de pesquisa digital, a IA generativa tornou possível transformar fantasias de ódio em imagens realistas com velocidade e sem custo algum. Geradores de imagem e deepfakes permitem que indivíduos convertam narrativas hostis em material visual altamente realista sem praticamente nenhuma expertise técnica.
Essa democratização da tecnologia, que em muitos contextos é celebrada como algo positivo, abriu também uma porta perigosa para quem quer causar dano sem deixar rastros fáceis de rastrear. As imagens geradas por IA têm uma aparência tão realista que, para a maioria das pessoas que as vê no feed, é praticamente impossível distinguir o que é verdadeiro do que é completamente fabricado. A própria Samreen admitiu que o vídeo era tão convincente que até seus pais poderiam acreditar que fosse real.
A pesquisa do CSOH revelou que esses conteúdos não são criados de forma aleatória. Existe uma lógica por trás da escolha das vítimas, do tipo de narrativa construída e das plataformas onde o material é distribuído. Mulheres muçulmanas com alguma visibilidade pública, seja como modelos, ativistas, jornalistas, estudantes ou profissionais, são alvos prioritários. O objetivo não é apenas humilhar individualmente, mas enviar uma mensagem coletiva de silenciamento: qualquer mulher que ocupe espaços públicos pode ser o próximo alvo.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
A Al Jazeera, veículo que publicou a investigação original, tentou contato com diversas mulheres muçulmanas que foram alvos desse tipo de conteúdo. A maioria recusou falar publicamente, citando vergonha e o risco de reviver traumas.
A Meri Trustline, uma linha de ajuda para segurança online gerenciada pela RATI Foundation, com sede em Mumbai, também tem acompanhado o crescimento desses casos. Desde sua criação em 2022, a linha já atendeu mais de 482 casos, dos quais aproximadamente 10% envolveram material digitalmente manipulado, uma proporção que vem crescendo à medida que as ferramentas de IA se tornam mais acessíveis. Salman Mujawar, conselheiro da linha de frente do serviço, destacou que essas violações são silenciadas pela vergonha, pelo medo e pelo trauma. Os incidentes raramente são revelados até mesmo para familiares próximos, muito menos ganham espaço no discurso público mais amplo.
A pornificação da política e o que ela revela
O termo pornificação da política pode soar estranho à primeira vista, mas ele descreve com precisão algo que pesquisadores de mídia e sociologia vêm observando há anos, e que ganhou uma dimensão completamente nova com o avanço da Inteligência Artificial. A ideia central é que o conteúdo sexualizado está sendo usado não apenas para humilhar indivíduos, mas como uma forma de discurso político, uma maneira de estabelecer hierarquias sociais, reforçar preconceitos religiosos e étnicos, e punir quem ousa desafiar determinadas normas culturais.
Sahana Udupa, antropóloga de mídia da Universidade Ludwig Maximilian de Munique, descreveu o fenômeno como parte de culturas digitais de extrema direita que combinam humor, memes e conteúdo sexualizado para normalizar o abuso. Segundo ela, essas práticas formam um ecossistema inteiro que prospera com base na celebração coletiva e na agressão de grupo.
O conjunto de dados compilado pelo CSOH inclui memes gerados por IA que retratam mulheres muçulmanas em trajes religiosos em cenários sexualmente sugestivos, além de pornografia fabricada mirando jornalistas e ativistas. Um padrão visual recorrente identificado pelos pesquisadores é a representação de uma mulher codificada como muçulmana ao lado de um homem codificado como hindu.
Segundo Khan, nessas narrativas, homens muçulmanos são frequentemente representados como violentos ou moralmente corruptos, enquanto mulheres muçulmanas aparecem como submissas ou como personagens que são resgatadas por homens da comunidade majoritária. Em muitas culturas do sul da Ásia, mulheres são retratadas como a honra da família, explicou a pesquisadora. Então, atacar mulheres muçulmanas visualmente se torna uma forma de retratar os muçulmanos como inferiores.
No contexto indiano, esse fenômeno carrega camadas adicionais de complexidade. A tensão entre comunidades hindu e muçulmana tem uma história longa e marcada por episódios graves de violência. O que a Inteligência Artificial fez foi fornecer uma ferramenta nova e poderosamente escalável para uma dinâmica antiga de desumanização.
A pesquisadora Soma Basu, escrevendo no periódico acadêmico South Asia Multidisciplinary Academic Journal, argumentou que o que está acontecendo é a politização do sexual em si. O corpo de mulheres muçulmanas se transformou em campo de batalha para a dominação comunal, uma dinâmica que encontrou sua expressão mais visível nos escândalos do Sulli Deals e do Bulli Bai, plataformas de leilão fictícias que colocaram mulheres muçulmanas indianas à venda de forma simulada. Basu vinculou esses episódios tanto ao apoio formal de autoridades do Bharatiya Janata Party (BJP), o partido governista, quanto ao respaldo informal de seus voluntários digitais.
A própria Khan admitiu que a pesquisa a afetou profundamente. Como mulher muçulmana e pesquisadora, ela contou ter ficado horrorizada ao ver imagens de uma mulher usando lenço de cabeça sendo representada como pornografia suave. Para ela, é uma camada adicional de opressão que se soma ao comportamento misógino com o qual mulheres já lidam diariamente.
Respondendo a essas preocupações, Atif Rasheed, político do BJP, disse que a IA pode ser usada tanto positivamente quanto negativamente e pediu regulamentações mais fortes para prevenir o mau uso. Ele classificou deepfakes e conteúdo sexualmente explícito como algo muito decepcionante e disse que deveria haver ação rigorosa contra os responsáveis. No entanto, rejeitou ver a questão por uma lente religiosa, afirmando que o BJP respeita mulheres de todas as religiões e que os casos Sulli Deals e Bulli Bai foram tratados de acordo com a lei.
Um padrão antigo amplificado pela IA
Os episódios do Sulli Deals e do Bulli Bai, que ocorreram em 2021 e 2022, utilizaram imagens adulteradas e geraram indignação generalizada e investigações policiais. As autoridades indianas prenderam Aumkareshwar Thakur, acusado de criar o perfil Sulli Deals, e Niraj Bishnoi, identificado como criador do Bulli Bai, em janeiro de 2022. Ambos receberam liberdade sob fiança por motivos humanitários dois meses depois.
Os pesquisadores acreditam que o surgimento da IA generativa ampliou dramaticamente a escala e a velocidade do assédio contra mulheres muçulmanas online. Novas aplicações permitem que usuários façam upload de fotografias e gerem automaticamente imagens sexualizadas. Essas ferramentas estão amplamente disponíveis na internet, muitas vezes de graça, e não exigem nenhuma habilidade técnica.
Eviane Leidig, diretora de pesquisa e divulgação do CSOH, reforçou que existe uma longa história de tecnologia sendo usada para mirar e assediar mulheres, especialmente mulheres de minorias. O que é diferente agora, segundo ela, é a extensão da violação e a escala do dano que as ferramentas de IA possibilitam.
Para quem já vive sob assédio contínuo, o surgimento de imagens geradas por IA adicionou uma nova dimensão de medo. Afreen Fatima, pesquisadora e ativista de 27 anos que enfrenta abusos online desde que se manifestou contra a Lei de Cidadania (Emenda) da Índia em 2019, foi uma das dezenas de mulheres muçulmanas cujas fotos foram carregadas e leiloadas no Sulli Deals. A lei, declarada pelas Nações Unidas como fundamentalmente discriminatória contra muçulmanos, busca acelerar a concessão de cidadania indiana para minorias não muçulmanas que chegaram ao país vindas de países vizinhos de maioria muçulmana antes de 2025.
Quatro anos depois da controvérsia do Sulli Deals, o abuso mal diminuiu para Afreen. Contas anônimas, frequentemente usando nomes hindus comuns, continuam a procurá-la com mensagens abusivas, ameaças de estupro e assédio direcionado, apesar de sua presença limitada nas redes sociais. A cada poucos dias, segundo ela, surge uma mensagem de alguma conta aleatória com ameaças de estupro ou de morte.
A perspectiva de imagens sexuais geradas por IA intensificou esse medo. Afreen disse que quando leu sobre essas imagens, sentiu de forma muito pessoal. Elas criam uma psicose de medo. Ela também contou que o ódio online moldou a forma como ela navega espaços públicos. Sente-se desconfortável viajando sozinha. Quando se vê essas fantasias circulando sobre mulheres muçulmanas, começa-se a imaginar se alguém pode atacar na vida real.
Consequências reais e a sensação de insegurança
Depois que o vídeo falso viralizou, as oportunidades profissionais de Samreen Ayoub começaram a desaparecer. Como modelo, a reputação é tudo, ela explicou. Se comentários negativos aparecem no seu perfil, as marcas param de procurar você.
O vídeo se espalhou por múltiplas contas de redes sociais em questão de horas. Comentários abusivos, ligações ameaçadoras e acusações sobre seu caráter vieram logo em seguida. Samreen descreveu o que sentiu como um linchamento digital. Não era uma única conta, mas mais de uma dúzia postando o vídeo em todos os lugares, com centenas de outras compartilhando.
Durante quatro ou cinco meses, contas falsas inundaram seu perfil com comentários abusivos, afastando potenciais clientes. O assédio também transformou sua relação com as redes sociais. O Instagram costumava ser um espaço seguro para ela. Agora não se sente mais segura lá e limita o que e como publica.
Samreen registrou o incidente na unidade de crimes cibernéticos da polícia de Nova Delhi, apresentando queixas escritas. Nada aconteceu, ela disse, acrescentando que a maior parte do conteúdo abusivo só foi removida porque seus amigos denunciaram as contas em massa.
Plataformas, leis e a corrida contra o tempo
Um dos aspectos mais frustrantes de toda essa situação é a velocidade assimétrica entre a produção do conteúdo prejudicial e a resposta das plataformas e dos sistemas legais. Um vídeo falso pode ser criado em minutos, distribuído em segundos e alcançar milhões de pessoas em horas. A denúncia, a análise, a remoção e qualquer possibilidade de responsabilização legal, quando acontecem, levam dias, semanas ou meses.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Especialistas jurídicos apontam que as leis existentes na Índia não conseguem acompanhar o ritmo do conteúdo gerado por IA. Apar Gupta, advogado e diretor fundador da Internet Freedom Foundation, explicou que o dano é real mesmo quando a imagem em si é fabricada.
De acordo com a Seção 66E da Lei de Tecnologia da Informação da Índia, penalidades criminais se aplicam à captura ou publicação de imagens de partes privadas de uma pessoa sem consentimento. Mas se o corpo da vítima nunca foi de fato fotografado, ou seja, se a imagem é inteiramente gerada por IA, a provisão legal pode não se aplicar. Mesmo que a imagem seja falsa, ela cria uma marca permanente para as mulheres, destacou Gupta.
As plataformas digitais, por sua vez, contam com a proteção de porto seguro desde que removam material ilegal após serem notificadas. Porém, muitas vítimas sequer conseguem chegar a esse ponto. As plataformas não facilitam que você reporte que aquela é sua imagem, que é um deepfake e que precisa ser removido, explicou Gupta. Sem mudanças estruturais no design das plataformas, nas prioridades algorítmicas e nos marcos legais, o abuso gerado por IA vai continuar se espalhando mais rápido do que qualquer sistema jurídico consegue responder.
A legislação indiana sobre crimes digitais ainda não acompanhou a velocidade com que as ferramentas de IA evoluíram. Identificar os responsáveis pela criação do conteúdo é tecnicamente difícil, especialmente quando ferramentas de anonimato e contas falsas são usadas de forma estratégica. Isso cria um ambiente onde os agressores se sentem essencialmente impunes, o que por sua vez encoraja mais pessoas a adotarem as mesmas práticas.
No âmbito global, o debate sobre regulação de IA começa a incorporar essas questões, mas ainda de forma tímida e fragmentada. O AI Act da União Europeia e algumas iniciativas nos Estados Unidos tocam em pontos relevantes sobre deepfakes e conteúdo sintético, mas a implementação prática dessas regras ainda está longe de proteger mulheres como Samreen em tempo real. Curiosamente, a própria Índia sediou em 2025 uma cúpula de alto nível sobre impacto da IA em Nova Delhi, focada em inovação e marcos regulatórios, enquanto essas violações aconteciam dentro de suas fronteiras.
Os caminhos mais imediatos que os especialistas apontam incluem:
- Obrigação de marcação técnica em todo conteúdo gerado por IA, facilitando a identificação automática por plataformas
- Remoção acelerada de conteúdo sexualizado não consensual, com prazos máximos de resposta definidos em lei
- Responsabilização das plataformas que monetizam ou amplificam conteúdo identificado como falso e prejudicial
- Recursos legais acessíveis para vítimas que não têm condições de arcar com processos jurídicos longos e caros
- Investimento em alfabetização digital para que mais pessoas consigam identificar conteúdo sintético antes de compartilhá-lo
O preço da omissão
O que está acontecendo com mulheres muçulmanas na Índia é um exemplo concreto e urgente de como a tecnologia pode amplificar dinâmicas de exclusão e violência quando não existe um ecossistema de proteção funcionando em paralelo. A Inteligência Artificial não é neutra. Ela reflete e amplifica as estruturas de poder e os preconceitos de quem a utiliza e de quem decide como ela é governada.
Quando qualquer mulher que decide ter voz, aparecer, se candidatar ou simplesmente existir nas redes sociais sabe que pode ter sua imagem manipulada e seu corpo exposto de forma degradante, o resultado natural é o silêncio e o afastamento. Essa é, talvez, a consequência mais grave e menos discutida de todo esse cenário: a IA está sendo usada para redesenhar as fronteiras do espaço público, empurrando mulheres para fora dele através do medo.
Para Samreen Ayoub, a questão nunca foi apenas sobre um vídeo falso. O que ela mais queria era encontrar as pessoas por trás daquelas contas. Eles destruíram minha reputação sem sequer me conhecer, disse ela. Nesse cenário, a responsabilização continua sendo algo distante para as mulheres muçulmanas que são alvo desse tipo de violência digital.
Enquanto o debate sobre o futuro da IA continua acontecendo nos grandes fóruns tecnológicos do mundo, mulheres reais estão pagando um preço altíssimo pela ausência de respostas concretas. Esse é o lado da história que não pode ficar fora da conversa. 🔍
