EY retira estudio de la web tras descubrir que estaba plagado de alucinaciones de inteligencia artificial
Inteligencia artificial en manos de grandes consultoras parece sinónimo de innovación y eficiencia.
Pero, ¿qué pasa cuando esa tecnología empieza a inventar datos, fabricar citas y referenciar informes que simplemente nunca existieron?
Eso fue exactamente lo que el grupo de investigación GPTZero descubrió en un estudio publicado por EY Canada, una de las firmas de consultoría más grandes del mundo.
El informe, titulado Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems, era utilizado por consultores de EY en Canadá para promover sus servicios de ciberseguridad. ¿El problema? El material estaba repleto de alucinaciones de IA: datos contradictorios, notas al pie que apuntaban a páginas inexistentes e incluso una referencia a un informe de McKinsey que, bueno… no existe en ningún lado. 👀
En cuanto las inconsistencias salieron a la luz, reportadas por GPTZero a última hora de un jueves, EY retiró el material de la web y abrió una revisión interna.
El episodio enciende una alerta importante sobre los riesgos reales de publicar contenido generado o asistido por IA sin la debida validación, especialmente cuando proviene de empresas con alto nivel de autoridad y credibilidad en el mercado.
Lo que GPTZero encontró en el informe de EY
GPTZero es conocido por desarrollar herramientas de detección de contenido generado por inteligencia artificial, y fue justamente durante un análisis detallado que el grupo se topó con el documento publicado por EY Canada. El informe tenía como objetivo presentar datos sobre vulnerabilidades en programas de fidelización y recompensas, argumentando que estos sistemas son blancos frecuentes de fraude y ciberataques. De paso, el contenido servía para posicionar los servicios de ciberseguridad de la consultora como solución a esos desafíos. El problema es que buena parte de la información presentada simplemente no tenía base real: eran, en la práctica, invenciones de la inteligencia artificial que probablemente asistió en la producción del material.
Los investigadores de GPTZero — Om Ogale, Paul Esau y Alex Cui — detallaron las inconsistencias en un post publicado en su blog. Entre los problemas más graves identificados, estaba una referencia directa a un informe de McKinsey que simplemente no fue localizado en ninguna base de datos, archivo o publicación oficial de la consultora. No era una cita imprecisa o desactualizada: era una fuente que no existía. Además, más de media docena de notas al pie del documento dirigían a páginas web que o no existían o no contenían la información citada. Este tipo de error es una señal clásica de alucinación de IA: el modelo genera información que parece plausible, estructurada e incluso convincente, pero que en la práctica es fabricada desde cero.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Los datos estadísticos presentados a lo largo del informe también generaron dudas serias. En diferentes secciones del documento, el tamaño del mercado de programas de fidelización se estimó en 200 mil millones de dólares, y el volumen de puntos de fidelización no canjeados se presentó con exactamente el mismo valor, lo que levantó sospechas inmediatas sobre la veracidad de las cifras. Esas variaciones contradictorias dentro del propio documento indican que distintos fragmentos pudieron haber sido generados de forma independiente, sin una revisión humana que cruzara la información antes de la publicación.
En el mundo de la consultoría, donde los números se usan para fundamentar decisiones estratégicas de alto impacto, este tipo de inconsistencia es más que un error técnico: es una falla grave de credibilidad.
La alerta de los investigadores sobre el envenenamiento de datos
Un punto especialmente relevante planteado por los investigadores de GPTZero tiene que ver con el efecto cascada que este tipo de publicación puede generar. En palabras del propio grupo de investigación, publicar un informe en línea es esencialmente una forma de inyección de datos en el pool de conocimiento que es internet. Cuando el informe incluye información falsa — ya sean citas inventadas o afirmaciones sin fundamento — puede envenenar el pozo, induciendo al error a futuros investigadores, analistas e hasta otros modelos de IA que eventualmente utilicen ese contenido como fuente de entrenamiento.
Este riesgo se vuelve aún más crítico cuando el documento es publicado por una firma de consultoría reconocida a nivel mundial y alojado en un sitio de alto tráfico. La autoridad de la marca le presta credibilidad al contenido, haciendo que lectores y sistemas automatizados lo traten como información verificada, cuando en realidad puede ser pura fabricación algorítmica. 🔍
Alucinaciones de IA: el problema que nadie quiere tener, pero que todos pueden enfrentar
El término alucinación de IA puede sonar demasiado técnico a primera vista, pero el concepto es sencillo de entender. Los modelos de lenguaje como los que alimentan herramientas populares de generación de texto están entrenados para producir respuestas coherentes y fluidas, pero eso no significa que esas respuestas sean necesariamente verdaderas. Cuando el modelo no tiene datos suficientes para responder algo con precisión, puede simplemente rellenar los vacíos con información inventada, manteniendo el mismo tono seguro y profesional que usaría para describir algo factual. El resultado es un texto que parece legítimo, pero que lleva información falsa incrustada de forma casi invisible.
Este fenómeno ya ha sido documentado en diversas situaciones públicas, y el caso de EY está lejos de ser el primero. El artículo original destaca que Deloitte, otra gigante del grupo Big Four y rival directa de EY, tuvo que revisar un informe producido para un gobierno provincial canadiense el año pasado tras revelarse que el documento contenía citas académicas falsas. Más recientemente, el bufete de abogados Sullivan & Cromwell tuvo que disculparse formalmente ante un tribunal de Nueva York porque un documento presentado en un caso de gran repercusión citaba incorrectamente el código de quiebras de Estados Unidos y referenciaba casos judiciales de forma equivocada.
Lo que hace el episodio de EY particularmente relevante es el contexto: una de las mayores firmas de consultoría del planeta, con décadas de reputación construida sobre rigor analítico y fiabilidad de datos, publicó un documento con errores que cualquier proceso básico de verificación habría identificado. Esto plantea una cuestión que va mucho más allá de la tecnología: es una cuestión de procesos internos y cultura de validación.
La velocidad con la que las herramientas de inteligencia artificial están siendo incorporadas al flujo de trabajo de empresas alrededor del mundo es impresionante, y esa aceleración trae un riesgo real: la tentación de usar la IA como atajo para la producción de contenido sin establecer capas adecuadas de revisión humana. Cuanta más autoridad tiene una empresa en el mercado, mayor es el impacto de un error de este tipo, porque el público tiende a confiar en el contenido producido por fuentes reconocidas sin cuestionarlo demasiado. Y es exactamente ahí donde el problema se amplifica. 🎯
Las consultoras apuestan fuerte por la IA, incluso con los riesgos evidentes
A pesar de episodios como este, las grandes firmas de consultoría siguen siendo adoptantes decididas de la inteligencia artificial. Invierten fuerte en la tecnología, capacitan a sus equipos para utilizarla en el día a día y promueven sus propios servicios de implementación de IA para clientes de los más variados sectores.
La propia EY anunció en octubre que sus ingresos relacionados con IA habían crecido un 30 por ciento en el año anterior. La empresa también destacó que 15 mil empleados habían trabajado en proyectos de clientes que involucraban inteligencia artificial, abarcando desde transformaciones empresariales a gran escala hasta el desarrollo de frameworks de gobernanza de IA orientados a la implementación responsable de la tecnología.
Esta paradoja es interesante y merece atención: las mismas empresas que venden servicios de gobernanza y uso responsable de IA a sus clientes tropiezan en la aplicación de esas prácticas en sus propias operaciones. Esto no invalida la tecnología ni los servicios ofrecidos, pero sin duda pone en perspectiva la necesidad de que las firmas practiquen lo que predican, y con rigor redoblado, ya que sirven de referencia para cientos de otras organizaciones alrededor del mundo.
La reacción de EY y lo que esto significa para el mercado
En cuanto los hallazgos de GPTZero se hicieron públicos, EY actuó rápidamente: el informe sobre programas de fidelización fue retirado del sitio web y la empresa anunció que estaba revisando las circunstancias que llevaron a la publicación del artículo. La consultora también se encargó de informar que el estudio no estaba vinculado a trabajos realizados para ningún cliente de EY, buscando limitar el impacto reputacional del episodio.
En un comunicado oficial, EY Canada declaró que se toma en serio la precisión de todo el contenido que publica y que tiene un compromiso organizacional con el uso responsable de inteligencia artificial. La respuesta fue relativamente rápida y transparente, lo cual es positivo, pero el simple hecho de que el documento haya llegado a la fase de publicación ya es, por sí solo, una señal de que algo en los procesos internos falló de manera significativa.
Para el mercado de consultoría y para empresas que utilizan inteligencia artificial en la producción de contenido institucional, el episodio funciona como un caso de estudio involuntario sobre lo que no se debe hacer. No se trata de demonizar el uso de la IA — por el contrario, estas herramientas tienen un potencial enorme para aumentar la productividad y la calidad de las entregas en diversas áreas. El punto central es que la IA no sustituye la curaduría humana, especialmente en contextos donde la credibilidad de la información es fundamental. Informes de consultoría, estudios de mercado, análisis regulatorios — todos estos formatos dependen de datos verificables y fuentes rastreables, y ningún modelo de lenguaje, por más avanzado que sea, garantiza eso por defecto.
El riesgo reputacional es real y creciente
Otro aspecto importante de este episodio es el impacto que puede tener sobre la percepción de fiabilidad en el uso corporativo de IA. Cuando una empresa de consultoría publica datos fabricados para promover sus propios servicios, aunque sin intención deliberada de engañar, el resultado práctico para quien consume ese contenido es el mismo: la persona está siendo influenciada por información falsa. Reguladores alrededor del mundo ya están pendientes de situaciones como esta, y es probable que casos como el de EY aceleren las discusiones sobre responsabilidad legal en el uso de contenido generado por IA en contextos comerciales e institucionales. 📋
Herramientas que usamos a diario
Más allá del aspecto regulatorio, está la cuestión de la confianza del público. En una era en la que la desinformación ya es un problema serio por sí solo, que grandes marcas publiquen contenido con datos fabricados — aunque sea de forma no intencionada — contribuye a un escenario de erosión de la credibilidad institucional. Y reconstruir la confianza, como sabemos, es un proceso mucho más lento y costoso que perderla.
Qué aprender de todo esto
El caso de EY no es solo una historia sobre los límites de la inteligencia artificial — es una historia sobre lo que sucede cuando la prisa por adoptar nuevas tecnologías atropella los procesos que garantizan calidad y fiabilidad. Las herramientas de IA generativa son poderosas, pero producen resultados que deben ser tratados como borradores inteligentes, no como productos finales listos para publicar. Esa distinción parece obvia cuando se dice en voz alta, pero en la práctica, muchos equipos se están saltando esa etapa, ya sea por presión de plazos o por exceso de confianza en la tecnología.
Empresas que quieran usar IA de forma responsable en sus producciones necesitan invertir en capas de revisión que vayan más allá de una lectura superficial del texto. Esto incluye:
- Verificar cada fuente citada y confirmar que realmente existe y contiene la información referenciada
- Cruzar datos estadísticos con referencias originales y fuentes primarias
- Garantizar que cualquier afirmación factual relevante tenga respaldo real y rastreable
- Implementar procesos formales de auditoría de contenido antes de la publicación
- Capacitar a los equipos para reconocer patrones típicos de alucinación en textos generados por IA
Puede parecer trabajoso, pero es exactamente ese tipo de rigor el que diferencia el contenido fiable del contenido peligroso, independientemente de quién lo haya producido, humano o máquina.
El episodio también refuerza la importancia de herramientas de detección y auditoría de contenido generado por IA en el entorno corporativo. El propio trabajo de GPTZero en este caso demuestra que es posible identificar alucinaciones e inconsistencias antes de que causen un daño real, siempre que exista una cultura organizacional que valore esa etapa de verificación. En un escenario donde la IA está cada vez más presente en la creación de documentos, informes y análisis, saber distinguir lo que es real de lo que fue fabricado por un modelo de lenguaje se convertirá en una competencia esencial, tanto para quienes producen como para quienes consumen este tipo de contenido. 🤖
La lección final es simple y directa: la inteligencia artificial es una herramienta extraordinaria, pero confiar en ella a ciegas, sin verificación humana, puede transformar la credibilidad en una vergüenza pública. Y como demuestra el caso de EY, ni las mayores organizaciones del mundo están inmunes a este riesgo.
