EY retira estudo do ar após pesquisadores descobrirem alucinações de inteligência artificial
Inteligência artificial nas mãos de grandes consultorias parece sinônimo de inovação e eficiência.
Mas o que acontece quando essa tecnologia começa a inventar dados, fabricar citações e referenciar relatórios que simplesmente nunca existiram?
Foi exatamente isso que o grupo de pesquisa GPTZero descobriu em um estudo publicado pela EY Canada — uma das maiores firmas de consultoria do mundo.
O relatório, intitulado Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems, era usado por consultores da EY no Canadá para promover seus serviços de cibersegurança. O problema? O material estava repleto de alucinações de IA: dados contraditórios, notas de rodapé apontando para páginas inexistentes e até uma referência a um relatório da McKinsey que, bem… não existe em lugar nenhum. 👀
Assim que as inconsistências vieram à tona, reportadas pelo GPTZero no final de uma quinta-feira, a EY retirou o material do ar e abriu uma revisão interna.
O episódio acende um alerta importante sobre os riscos reais de publicar conteúdo gerado ou assistido por IA sem a devida validação — especialmente quando vem de empresas com alto nível de autoridade e credibilidade no mercado.
O que o GPTZero encontrou no relatório da EY
O GPTZero é conhecido por desenvolver ferramentas de detecção de conteúdo gerado por inteligência artificial, e foi justamente durante uma análise detalhada que o grupo se deparou com o documento publicado pela EY Canada. O relatório tinha como objetivo apresentar dados sobre vulnerabilidades em programas de fidelidade e recompensas, argumentando que esses sistemas são alvos frequentes de fraude e ataques cibernéticos. De quebra, o conteúdo servia para posicionar os serviços de cibersegurança da consultoria como solução para esses desafios. O problema é que boa parte das informações apresentadas simplesmente não tinha base real — eram, na prática, invenções da inteligência artificial que provavelmente auxiliou na produção do material.
Os pesquisadores do GPTZero — Om Ogale, Paul Esau e Alex Cui — detalharam as inconsistências em um post publicado em seu blog. Entre os problemas mais graves identificados, estava uma referência direta a um relatório da McKinsey que simplesmente não foi localizado em nenhuma base de dados, arquivo ou publicação oficial da consultoria. Não era uma citação imprecisa ou desatualizada — era uma fonte que não existia. Além disso, mais de meia dúzia de notas de rodapé do documento direcionavam para páginas da web que ou não existiam ou não continham a informação citada. Esse tipo de erro é um sinal clássico de alucinação de IA: o modelo gera informações que parecem plausíveis, estruturadas e até convincentes, mas que na prática são fabricadas do zero.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Os dados estatísticos apresentados ao longo do relatório também geraram dúvidas sérias. Em diferentes trechos do documento, o tamanho do mercado de programas de fidelidade foi estimado em 200 bilhões de dólares — e o volume de pontos de fidelidade não resgatados foi apresentado com exatamente o mesmo valor, o que levantou suspeitas imediatas sobre a veracidade dos números. Essas variações contraditórias dentro do próprio documento indicam que diferentes trechos podem ter sido gerados de forma independente, sem uma revisão humana que cruzasse as informações antes da publicação.
No mundo da consultoria, onde números são usados para embasar decisões estratégicas de alto impacto, esse tipo de inconsistência é mais do que um erro técnico — é uma falha grave de credibilidade.
O alerta dos pesquisadores sobre envenenamento de dados
Um ponto especialmente relevante levantado pelos pesquisadores do GPTZero diz respeito ao efeito cascata que esse tipo de publicação pode gerar. Nas palavras do próprio grupo de pesquisa, publicar um relatório online é essencialmente uma forma de injeção de dados no pool de conhecimento que é a internet. Quando o relatório inclui informações falsas — sejam citações inventadas ou alegações sem fundamento — ele pode envenenar o poço, induzindo ao erro futuros pesquisadores, analistas e até outros modelos de IA que eventualmente utilizem esse conteúdo como fonte de treinamento.
Esse risco se torna ainda mais crítico quando o documento é publicado por uma firma de consultoria reconhecida globalmente e hospedado em um site de alto tráfego. A autoridade da marca empresta credibilidade ao conteúdo, fazendo com que leitores e sistemas automatizados o tratem como informação verificada — quando na verdade pode ser pura fabricação algorítmica. 🔍
Alucinações de IA: o problema que ninguém quer ter, mas todo mundo pode enfrentar
O termo alucinação de IA pode soar técnico demais à primeira vista, mas o conceito é simples de entender. Modelos de linguagem como os que alimentam ferramentas populares de geração de texto são treinados para produzir respostas coerentes e fluentes — mas isso não significa que essas respostas sejam necessariamente verdadeiras. Quando o modelo não tem dados suficientes para responder a algo com precisão, ele pode simplesmente preencher as lacunas com informações inventadas, mantendo o mesmo tom confiante e profissional que usaria para descrever algo factual. O resultado é um texto que parece legítimo, mas que carrega informações falsas embutidas de forma quase invisível.
Esse fenômeno já foi documentado em diversas situações públicas, e o caso da EY está longe de ser o primeiro. O artigo original destaca que a Deloitte, outra gigante do grupo Big Four e rival direta da EY, precisou revisar um relatório produzido para um governo provincial canadense no ano passado após a revelação de que o documento continha citações acadêmicas falsas. Mais recentemente, o escritório de advocacia Sullivan & Cromwell precisou se desculpar formalmente a um tribunal de Nova York porque um documento apresentado em um caso de grande repercussão citava incorretamente o código de falências dos Estados Unidos e referenciava casos judiciais de forma equivocada.
O que torna o episódio da EY particularmente relevante é o contexto: uma das maiores firmas de consultoria do planeta, com décadas de reputação construída sobre rigor analítico e confiabilidade de dados, publicou um documento com erros que qualquer processo básico de verificação teria identificado. Isso levanta uma questão que vai muito além de tecnologia — é uma questão de processos internos e cultura de validação.
A velocidade com que ferramentas de inteligência artificial estão sendo incorporadas ao fluxo de trabalho de empresas ao redor do mundo é impressionante, e essa aceleração traz um risco real: a tentação de usar a IA como atalho para a produção de conteúdo sem estabelecer camadas adequadas de revisão humana. Quanto mais autoridade uma empresa tem no mercado, maior é o impacto de um erro desse tipo — porque o público tende a confiar no conteúdo produzido por fontes reconhecidas sem questionar muito. E é exatamente aí que o problema se amplifica. 🎯
Consultorias apostam alto em IA, mesmo com os riscos evidentes
Apesar de episódios como esse, as grandes firmas de consultoria seguem sendo adotantes determinadas da inteligência artificial. Elas investem pesado na tecnologia, treinam suas equipes para utilizá-la no dia a dia e promovem seus próprios serviços de implementação de IA para clientes dos mais variados setores.
A própria EY divulgou em outubro que sua receita relacionada a IA havia crescido 30 por cento no ano anterior. A empresa também destacou que 15 mil funcionários haviam trabalhado em projetos de clientes envolvendo inteligência artificial, abrangendo desde transformações empresariais em larga escala até o desenvolvimento de frameworks de governança de IA voltados para a implementação responsável da tecnologia.
Esse paradoxo é interessante e merece atenção: as mesmas empresas que vendem serviços de governança e uso responsável de IA para seus clientes tropeçam na aplicação dessas práticas em suas próprias operações. Isso não invalida a tecnologia nem os serviços oferecidos, mas certamente coloca em perspectiva a necessidade de que as firmas pratiquem o que pregam — e com rigor redobrado, já que servem de referência para centenas de outras organizações ao redor do mundo.
A reação da EY e o que isso significa para o mercado
Assim que as descobertas do GPTZero vieram a público, a EY agiu rapidamente: o relatório sobre programas de fidelidade foi removido do site e a empresa anunciou que estava revisando as circunstâncias que levaram à publicação do artigo. A consultoria também fez questão de informar que o estudo não estava conectado a trabalhos realizados para nenhum cliente da EY, buscando limitar o impacto reputacional do episódio.
Em nota oficial, a EY Canada declarou que leva a sério a precisão de todo o conteúdo que publica e que possui um compromisso organizacional com o uso responsável de inteligência artificial. A resposta foi relativamente rápida e transparente, o que é positivo — mas o simples fato de o documento ter chegado ao estágio de publicação já é, por si só, um sinal de que algo nos processos internos falhou de forma significativa.
Para o mercado de consultoria e para empresas que utilizam inteligência artificial na produção de conteúdo institucional, o episódio funciona como um estudo de caso involuntário sobre o que não fazer. Não se trata de demonizar o uso da IA — pelo contrário, essas ferramentas têm potencial enorme para aumentar a produtividade e a qualidade de entregas em diversas áreas. O ponto central é que a IA não substitui a curadoria humana, especialmente em contextos onde a credibilidade das informações é fundamental. Relatórios de consultoria, estudos de mercado, análises regulatórias — todos esses formatos dependem de dados verificáveis e fontes rastreáveis, e nenhum modelo de linguagem, por mais avançado que seja, garante isso por padrão.
O risco reputacional é real e crescente
Outro aspecto importante desse episódio é o impacto que ele pode ter sobre a percepção de confiabilidade no uso corporativo de IA. Quando uma empresa de consultoria publica dados fabricados para promover seus próprios serviços, mesmo que sem intenção deliberada de enganar, o resultado prático para quem consome aquele conteúdo é o mesmo: a pessoa está sendo influenciada por informações falsas. Reguladores ao redor do mundo já estão de olho em situações como essa, e é provável que casos como o da EY acelerem discussões sobre responsabilidade legal no uso de conteúdo gerado por IA em contextos comerciais e institucionais. 📋
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Além do aspecto regulatório, há a questão da confiança do público. Numa era em que desinformação já é um problema sério por si só, ter grandes marcas publicando conteúdo com dados fabricados — ainda que de forma não intencional — contribui para um cenário de erosão da credibilidade institucional. E reconstruir confiança, como sabemos, é um processo muito mais lento e custoso do que perdê-la.
O que aprender com tudo isso
O caso da EY não é apenas uma história sobre os limites da inteligência artificial — é uma história sobre o que acontece quando a pressa de adotar novas tecnologias atropela os processos que garantem qualidade e confiabilidade. Ferramentas de IA generativa são poderosas, mas elas produzem resultados que precisam ser tratados como rascunhos inteligentes, não como produtos finais prontos para publicação. Essa distinção parece óbvia quando dita em voz alta, mas na prática, muitas equipes estão pulando essa etapa — seja por pressão de prazo, seja por excesso de confiança na tecnologia.
Empresas que quiserem usar IA de forma responsável em suas produções precisam investir em camadas de revisão que vão além da leitura superficial do texto. Isso inclui:
- Verificar cada fonte citada e confirmar que ela realmente existe e contém a informação referenciada
- Cruzar dados estatísticos com referências originais e fontes primárias
- Garantir que qualquer afirmação factual relevante tenha respaldo real e rastreável
- Implementar processos formais de auditoria de conteúdo antes da publicação
- Treinar equipes para reconhecer padrões típicos de alucinação em textos gerados por IA
Pode parecer trabalhoso, mas é exatamente esse tipo de rigor que diferencia conteúdo confiável de conteúdo perigoso — independentemente de quem o produziu, humano ou máquina.
O episódio também reforça a importância de ferramentas de detecção e auditoria de conteúdo gerado por IA no ambiente corporativo. O próprio trabalho do GPTZero nesse caso mostra que é possível identificar alucinações e inconsistências antes que elas causem dano real — desde que exista uma cultura organizacional que valorize essa etapa de verificação. Em um cenário onde a IA está cada vez mais presente na criação de documentos, relatórios e análises, saber distinguir o que é real do que foi fabricado por um modelo de linguagem vai se tornar uma competência essencial — tanto para quem produz quanto para quem consome esse tipo de conteúdo. 🤖
A lição final é simples e direta: inteligência artificial é uma ferramenta extraordinária, mas confiar nela cegamente, sem verificação humana, pode transformar credibilidade em constrangimento público. E como o caso da EY mostra, nem as maiores organizações do mundo estão imunes a esse risco.
