OpenAI precisa pedir ao ChatGPT para parar de falar sobre goblins
A OpenAI se viu diante de uma situação bastante inusitada recentemente: o ChatGPT começou a mencionar goblins e gremlins em respostas do dia a dia, sem nenhum contexto que justificasse isso.
Parecia uma brincadeira, mas não era.
O comportamento foi ficando cada vez mais frequente até chamar atenção de usuários e até de funcionários da própria empresa, que precisaram investigar o que estava acontecendo nos bastidores do modelo. Em um post publicado no blog oficial na quinta-feira, a companhia detalhou como o problema surgiu, evoluiu e foi finalmente corrigido.
O resultado dessa investigação revelou algo bem mais interessante do que criaturas mitológicas aparecendo do nada em conversas sobre trabalho ou código. A OpenAI descobriu que uma personalidade nerd desenvolvida internamente para o ChatGPT havia sido inadvertidamente incentivada a recompensar menções a goblins durante o processo de treinamento. Ou seja, o modelo estava literalmente sendo premiado por falar sobre essas criaturas, mesmo quando não fazia o menor sentido.
Esse episódio virou um exemplo real e concreto dos desafios que qualquer empresa enfrenta quando desenvolve sistemas de inteligência artificial em larga escala, onde até um detalhe pequeno no processo de treinamento pode se propagar de formas completamente inesperadas.
E foi exatamente isso que aconteceu aqui. 👀
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
O que estava por trás das respostas estranhas do ChatGPT
Quando os primeiros relatos começaram a surgir, muita gente achou que era apenas um bug passageiro ou até uma brincadeira plantada pela própria OpenAI. Afinal, ver um modelo de inteligência artificial inserindo goblins numa resposta sobre planilhas do Excel ou descrevendo problemas técnicos como pequenos goblins causando confusão é, no mínimo, desconcertante. Só que a situação era muito mais séria do que parecia à primeira vista, e a equipe técnica precisou agir rapidamente para entender a origem do problema antes que ele se espalhasse ainda mais.
De acordo com o blog post da OpenAI, a empresa notou pela primeira vez um aumento nas menções a goblins, gremlins e outras criaturas após o lançamento do GPT-5.1 em novembro. Os usuários começaram a reclamar que o modelo estava sendo estranhamente informal demais nas conversas, o que levou a empresa a abrir uma investigação sobre tiques verbais específicos que o modelo havia desenvolvido.
O momento decisivo veio quando um pesquisador da própria OpenAI, que já tinha notado algumas menções a goblins aqui e ali, pediu para a equipe investigar a fundo. O que os desenvolvedores encontraram foi surpreendente: as aparições do termo nas respostas do ChatGPT haviam aumentado 175% desde o lançamento do GPT-5.1. Não era um problema isolado ou uma coincidência — era uma tendência clara e mensurável que estava crescendo com o tempo.
A investigação interna apontou que o comportamento estava ligado ao processo pelo qual modelos como o ChatGPT aprendem a dar respostas melhores com base em avaliações e ajustes feitos durante o treinamento. O problema é que esse processo, quando mal calibrado ou quando recebe sinais inconsistentes, pode criar padrões de comportamento que parecem completamente aleatórios para quem está do lado de fora, mas que têm uma lógica interna muito específica dentro do modelo. No caso, a personalidade nerd desenvolvida para o ChatGPT estava usando goblins e gremlins como metáforas para descrever problemas e bugs, e o sistema de recompensa acabou reforçando esse comportamento em vez de corrigir.
A OpenAI tomou medidas práticas para resolver a questão, incluindo instruir diretamente o Codex, seu agente de programação, para não fazer referência a goblins a menos que fosse genuinamente relevante para o contexto da conversa. É o tipo de correção que parece absurda quando você lê em voz alta — uma das maiores empresas de tecnologia do mundo precisou literalmente dizer ao seu modelo de IA para parar de falar sobre criaturas mitológicas — mas que reflete uma realidade muito concreta do desenvolvimento de sistemas complexos de inteligência artificial.
GPT-5 e a pressão por modelos cada vez mais estáveis
Esse episódio chegou num momento bastante delicado para a OpenAI, que está no meio do desenvolvimento e lançamento gradual do GPT-5, seu modelo mais avançado até agora. A empresa já havia identificado o problema especificamente em ferramentas alimentadas pelo GPT-5, o que significa que o modelo mais recente e mais poderoso da empresa era justamente o que estava espalhando referências a goblins com mais frequência. A expectativa em torno do GPT-5 é enorme, e qualquer comportamento errático acaba sendo amplificado pela comunidade como um sinal de que os sistemas de inteligência artificial ainda têm um longo caminho a percorrer.
O que torna esse cenário ainda mais interessante é que o GPT-5 foi construído com uma arquitetura significativamente mais complexa do que seus antecessores, o que teoricamente deveria torná-lo mais robusto contra esse tipo de deriva comportamental. A OpenAI afirmou em comunicados técnicos que o novo modelo passou por processos de avaliação mais rigorosos, com camadas adicionais de verificação antes de qualquer atualização ser liberada para o público. Só que o episódio dos goblins aconteceu justamente com o GPT-5.1, mostrando que mesmo modelos de última geração continuam vulneráveis a esse tipo de problema quando o processo de refinamento não é monitorado de perto.
A lição mais importante que esse caso traz para o desenvolvimento de qualquer sistema de inteligência artificial de grande escala é que a estabilidade comportamental não é uma propriedade que você define uma vez e esquece. Ela precisa ser monitorada de forma contínua, com processos de avaliação que consigam identificar desvios antes que eles cheguem ao usuário final. E isso é especialmente difícil quando você está lidando com um modelo que responde a bilhões de interações por dia, em contextos completamente diferentes, para pessoas com expectativas e necessidades muito distintas.
O problema dos tiques linguísticos em modelos de IA
O caso dos goblins não é um evento isolado no universo dos grandes modelos de linguagem. Quem acompanha o desenvolvimento de ferramentas de inteligência artificial sabe que tiques verbais são um problema recorrente. Modelos anteriores da OpenAI e de outras empresas já apresentaram comportamentos parecidos, como o uso excessivo de determinadas palavras, frases feitas ou expressões que pareciam ter saído do nada e passaram a aparecer em respostas com uma frequência desproporcional.
A diferença é que, no caso dos goblins, o problema era tão visual e inusitado que chamou atenção de uma forma que um tique mais sutil jamais chamaria. Quando o ChatGPT descreve um bug no código como um pequeno goblin causando problemas, o usuário percebe imediatamente que algo está errado. Mas quando o modelo simplesmente usa uma palavra formal demais ou repete uma estrutura de frase com frequência excessiva, a maioria das pessoas nem nota. Isso levanta uma questão relevante: quantos outros tiques linguísticos menos óbvios podem estar presentes nos modelos que usamos todos os dias sem que ninguém tenha notado ainda?
A OpenAI reconheceu no post que esse episódio destaca os desafios que empresas de inteligência artificial enfrentam ao lidar com o potencial de sistemas e seus processos de treinamento para recompensar e reforçar erros como peculiaridades de linguagem. É uma admissão honesta de que, mesmo com toda a sofisticação tecnológica disponível, ainda existem pontos cegos significativos no processo de desenvolvimento desses modelos.
O que esse caso revela sobre os limites da IA hoje
Mais do que uma curiosidade viral, o episódio dos goblins no ChatGPT expõe algo que pesquisadores de inteligência artificial discutem há anos: a dificuldade de garantir que um modelo de linguagem se comporte de forma previsível em todos os cenários possíveis. Modelos como o ChatGPT são treinados em volumes absurdos de dados e passam por processos de ajuste extremamente sofisticados, mas ainda assim carregam uma certa imprevisibilidade que é inerente à forma como esses sistemas aprendem. Não existe, até hoje, uma maneira de inspecionar completamente o interior de um modelo grande e entender exatamente por que ele tomou determinada decisão em determinado momento.
Esse fenômeno é conhecido no campo como caixa preta, e é um dos principais focos de pesquisa em interpretabilidade de modelos. A ideia é desenvolver ferramentas e técnicas que permitam aos engenheiros entender melhor o que está acontecendo dentro dessas redes neurais gigantescas, de forma que problemas como o comportamento dos goblins possam ser identificados e corrigidos muito antes de chegarem ao usuário. A OpenAI tem um time inteiro dedicado a esse tipo de pesquisa, mas os avanços ainda são graduais e o problema continua sendo genuinamente difícil de resolver na prática.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Vale mencionar também o impacto que esse tipo de situação tem na confiança do público. Quando alguém usa o ChatGPT para trabalho e recebe uma resposta cheia de referências a criaturas mitológicas sem nenhum motivo aparente, a reação natural é questionar a confiabilidade da ferramenta como um todo. Se o modelo erra de forma tão bizarra em algo tão básico, como confiar nele para tarefas mais complexas? Essa percepção, mesmo que não seja totalmente justa do ponto de vista técnico, é real e tem consequências práticas para a adoção dessas ferramentas em ambientes profissionais e corporativos.
A importância da transparência no desenvolvimento de IA
O que é positivo nessa história toda é que a OpenAI identificou o problema, investigou com seriedade, publicou um post detalhado explicando o que aconteceu e corrigiu o comportamento. Isso mostra que os processos de monitoramento existem e funcionam, mesmo que não sejam perfeitos. E para quem acompanha de perto o desenvolvimento de inteligência artificial, esse tipo de transparência, mesmo que parcial, é bem-vinda.
Saber que uma empresa do porte da OpenAI leva a sério até um comportamento aparentemente inofensivo como mencionar criaturas mitológicas numa resposta sobre código diz bastante sobre o nível de atenção que eles dedicam à qualidade e à confiabilidade dos seus modelos. O post do blog não apenas reconheceu o erro, mas também explicou a cadeia de eventos que levou ao problema — desde a personalidade nerd do modelo até o sistema de recompensas que reforçou inadvertidamente as menções a goblins.
Esse tipo de comunicação aberta também ajuda a comunidade técnica a aprender com os erros e a desenvolver melhores práticas para evitar que problemas similares aconteçam em outros modelos e plataformas. Quando uma empresa compartilha o que deu errado e como corrigiu, todos ganham.
No fim das contas, o episódio dos goblins é um lembrete simpático, mas revelador, de que sistemas de inteligência artificial ainda são profundamente dependentes da qualidade dos processos humanos que os moldam. Toda a sofisticação algorítmica do mundo não substitui a necessidade de monitoramento constante, investigação atenta e correções rápidas quando algo sai do trilho. E se o preço dessa lição foi algumas respostas estranhas sobre criaturas mitológicas, podemos considerar que saímos relativamente bem dessa. 🤖
