OpenAI necesita pedirle al ChatGPT que deje de hablar sobre goblins
OpenAI se encontró ante una situación bastante insólita recientemente: ChatGPT comenzó a mencionar goblins y gremlins en respuestas cotidianas, sin ningún contexto que lo justificara.
Parecía una broma, pero no lo era.
El comportamiento fue haciéndose cada vez más frecuente hasta llamar la atención de usuarios e incluso de empleados de la propia empresa, que tuvieron que investigar qué estaba pasando entre bastidores del modelo. En un post publicado en el blog oficial el jueves, la compañía detalló cómo surgió el problema, cómo evolucionó y cómo fue finalmente corregido.
El resultado de esa investigación reveló algo mucho más interesante que criaturas mitológicas apareciendo de la nada en conversaciones sobre trabajo o código. OpenAI descubrió que una personalidad nerd desarrollada internamente para ChatGPT había sido inadvertidamente incentivada a recompensar las menciones a goblins durante el proceso de entrenamiento. Es decir, el modelo estaba literalmente siendo premiado por hablar sobre estas criaturas, incluso cuando no tenía el menor sentido.
Este episodio se convirtió en un ejemplo real y concreto de los desafíos que cualquier empresa enfrenta cuando desarrolla sistemas de inteligencia artificial a gran escala, donde hasta un detalle pequeño en el proceso de entrenamiento puede propagarse de formas completamente inesperadas.
Y fue exactamente eso lo que ocurrió aquí. 👀
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Qué había detrás de las respuestas extrañas de ChatGPT
Cuando los primeros reportes comenzaron a surgir, mucha gente pensó que era solo un bug pasajero o incluso una broma plantada por la propia OpenAI. Al fin y al cabo, ver un modelo de inteligencia artificial insertando goblins en una respuesta sobre hojas de cálculo de Excel o describiendo problemas técnicos como pequeños goblins causando estragos es, como mínimo, desconcertante. Solo que la situación era mucho más seria de lo que parecía a primera vista, y el equipo técnico tuvo que actuar rápidamente para entender el origen del problema antes de que se extendiera aún más.
Según el blog post de OpenAI, la empresa notó por primera vez un aumento en las menciones a goblins, gremlins y otras criaturas tras el lanzamiento de GPT-5.1 en noviembre. Los usuarios comenzaron a quejarse de que el modelo estaba siendo extrañamente informal en las conversaciones, lo que llevó a la empresa a abrir una investigación sobre tics verbales específicos que el modelo había desarrollado.
El momento decisivo llegó cuando un investigador de la propia OpenAI, que ya había notado algunas menciones a goblins aquí y allá, pidió al equipo que investigara a fondo. Lo que los desarrolladores encontraron fue sorprendente: las apariciones del término en las respuestas de ChatGPT habían aumentado un 175% desde el lanzamiento de GPT-5.1. No era un problema aislado ni una coincidencia — era una tendencia clara y medible que estaba creciendo con el tiempo.
La investigación interna señaló que el comportamiento estaba ligado al proceso mediante el cual modelos como ChatGPT aprenden a dar mejores respuestas basándose en evaluaciones y ajustes realizados durante el entrenamiento. El problema es que este proceso, cuando está mal calibrado o cuando recibe señales inconsistentes, puede crear patrones de comportamiento que parecen completamente aleatorios para quien está del otro lado, pero que tienen una lógica interna muy específica dentro del modelo. En este caso, la personalidad nerd desarrollada para ChatGPT estaba usando goblins y gremlins como metáforas para describir problemas y bugs, y el sistema de recompensas acabó reforzando ese comportamiento en lugar de corregirlo.
OpenAI tomó medidas prácticas para resolver la cuestión, incluyendo instruir directamente a Codex, su agente de programación, para no hacer referencia a goblins a menos que fuera genuinamente relevante para el contexto de la conversación. Es el tipo de corrección que parece absurda cuando la lees en voz alta — una de las mayores empresas de tecnología del mundo tuvo que literalmente decirle a su modelo de IA que dejara de hablar sobre criaturas mitológicas — pero que refleja una realidad muy concreta del desarrollo de sistemas complejos de inteligencia artificial.
GPT-5 y la presión por modelos cada vez más estables
Este episodio llegó en un momento bastante delicado para OpenAI, que se encuentra en pleno desarrollo y lanzamiento gradual de GPT-5, su modelo más avanzado hasta la fecha. La empresa ya había identificado el problema específicamente en herramientas alimentadas por GPT-5, lo que significa que el modelo más reciente y más potente de la empresa era justamente el que estaba esparciendo referencias a goblins con mayor frecuencia. La expectativa en torno a GPT-5 es enorme, y cualquier comportamiento errático acaba siendo amplificado por la comunidad como una señal de que los sistemas de inteligencia artificial todavía tienen un largo camino por recorrer.
Lo que hace este escenario aún más interesante es que GPT-5 fue construido con una arquitectura significativamente más compleja que sus predecesores, lo que teóricamente debería hacerlo más robusto frente a este tipo de deriva comportamental. OpenAI afirmó en comunicados técnicos que el nuevo modelo pasó por procesos de evaluación más rigurosos, con capas adicionales de verificación antes de que cualquier actualización fuera liberada al público. Solo que el episodio de los goblins ocurrió justamente con GPT-5.1, demostrando que incluso modelos de última generación siguen siendo vulnerables a este tipo de problema cuando el proceso de refinamiento no se monitorea de cerca.
La lección más importante que este caso trae para el desarrollo de cualquier sistema de inteligencia artificial a gran escala es que la estabilidad comportamental no es una propiedad que se define una vez y se olvida. Necesita ser monitoreada de forma continua, con procesos de evaluación que consigan identificar desviaciones antes de que lleguen al usuario final. Y esto es especialmente difícil cuando estás lidiando con un modelo que responde a miles de millones de interacciones por día, en contextos completamente diferentes, para personas con expectativas y necesidades muy distintas.
El problema de los tics lingüísticos en modelos de IA
El caso de los goblins no es un evento aislado en el universo de los grandes modelos de lenguaje. Quien sigue de cerca el desarrollo de herramientas de inteligencia artificial sabe que los tics verbales son un problema recurrente. Modelos anteriores de OpenAI y de otras empresas ya presentaron comportamientos parecidos, como el uso excesivo de determinadas palabras, frases hechas o expresiones que parecían haber salido de la nada y comenzaron a aparecer en respuestas con una frecuencia desproporcionada.
La diferencia es que, en el caso de los goblins, el problema era tan visual e insólito que llamó la atención de una forma que un tic más sutil jamás lo haría. Cuando ChatGPT describe un bug en el código como un pequeño goblin causando problemas, el usuario percibe inmediatamente que algo está mal. Pero cuando el modelo simplemente usa una palabra demasiado formal o repite una estructura de frase con frecuencia excesiva, la mayoría de las personas ni lo nota. Esto plantea una cuestión relevante: ¿cuántos otros tics lingüísticos menos obvios pueden estar presentes en los modelos que usamos todos los días sin que nadie los haya notado todavía?
OpenAI reconoció en el post que este episodio destaca los desafíos que las empresas de inteligencia artificial enfrentan al lidiar con el potencial de los sistemas y sus procesos de entrenamiento para recompensar y reforzar errores como peculiaridades del lenguaje. Es una admisión honesta de que, incluso con toda la sofisticación tecnológica disponible, todavía existen puntos ciegos significativos en el proceso de desarrollo de estos modelos.
Qué revela este caso sobre los límites de la IA hoy
Más que una curiosidad viral, el episodio de los goblins en ChatGPT expone algo que los investigadores de inteligencia artificial discuten desde hace años: la dificultad de garantizar que un modelo de lenguaje se comporte de forma predecible en todos los escenarios posibles. Modelos como ChatGPT son entrenados con volúmenes absurdos de datos y pasan por procesos de ajuste extremadamente sofisticados, pero aún así cargan con una cierta imprevisibilidad que es inherente a la forma en que estos sistemas aprenden. No existe, hasta hoy, una manera de inspeccionar completamente el interior de un modelo grande y entender exactamente por qué tomó determinada decisión en determinado momento.
Este fenómeno es conocido en el campo como caja negra, y es uno de los principales focos de investigación en interpretabilidad de modelos. La idea es desarrollar herramientas y técnicas que permitan a los ingenieros entender mejor lo que está ocurriendo dentro de estas redes neuronales gigantescas, de forma que problemas como el comportamiento de los goblins puedan ser identificados y corregidos mucho antes de llegar al usuario. OpenAI tiene un equipo entero dedicado a este tipo de investigación, pero los avances todavía son graduales y el problema sigue siendo genuinamente difícil de resolver en la práctica.
Herramientas que usamos a diario
Vale mencionar también el impacto que este tipo de situación tiene en la confianza del público. Cuando alguien usa ChatGPT para trabajar y recibe una respuesta llena de referencias a criaturas mitológicas sin ningún motivo aparente, la reacción natural es cuestionar la fiabilidad de la herramienta en su totalidad. Si el modelo falla de forma tan bizarra en algo tan básico, ¿cómo confiar en él para tareas más complejas? Esta percepción, aunque no sea totalmente justa desde el punto de vista técnico, es real y tiene consecuencias prácticas para la adopción de estas herramientas en entornos profesionales y corporativos.
La importancia de la transparencia en el desarrollo de IA
Lo positivo de toda esta historia es que OpenAI identificó el problema, investigó con seriedad, publicó un post detallado explicando lo que había ocurrido y corrigió el comportamiento. Esto demuestra que los procesos de monitoreo existen y funcionan, aunque no sean perfectos. Y para quienes siguen de cerca el desarrollo de inteligencia artificial, este tipo de transparencia, aunque sea parcial, es bienvenida.
Saber que una empresa del tamaño de OpenAI se toma en serio hasta un comportamiento aparentemente inofensivo como mencionar criaturas mitológicas en una respuesta sobre código dice bastante sobre el nivel de atención que dedican a la calidad y la fiabilidad de sus modelos. El post del blog no solo reconoció el error, sino que también explicó la cadena de eventos que llevó al problema — desde la personalidad nerd del modelo hasta el sistema de recompensas que reforzó inadvertidamente las menciones a goblins.
Este tipo de comunicación abierta también ayuda a la comunidad técnica a aprender de los errores y a desarrollar mejores prácticas para evitar que problemas similares ocurran en otros modelos y plataformas. Cuando una empresa comparte lo que salió mal y cómo lo corrigió, todos ganan.
Al final de cuentas, el episodio de los goblins es un recordatorio simpático, pero revelador, de que los sistemas de inteligencia artificial todavía son profundamente dependientes de la calidad de los procesos humanos que los moldean. Toda la sofisticación algorítmica del mundo no sustituye la necesidad de monitoreo constante, investigación atenta y correcciones rápidas cuando algo se sale del carril. Y si el precio de esta lección fueron algunas respuestas extrañas sobre criaturas mitológicas, podemos considerar que salimos relativamente bien parados de esta. 🤖
