Inteligência artificial virou companhia de madrugada para muita gente — alguém que ouve sem julgar, que está disponível às 3h da manhã e que nunca vai dizer que você está exagerando.
E essa acessibilidade tem um valor real, especialmente quando o sistema de saúde mental é caro, lento ou simplesmente inacessível para a maioria das pessoas.
Mas tem uma linha tênue entre acolhimento e cuidado clínico — e quando essa linha some no meio de uma crise, as consequências podem ser irreversíveis.
É exatamente esse o centro da história de Sophie Rottenberg, uma jovem de 29 anos que passou meses conversando com um chatbot chamado Harry — na verdade, o ChatGPT configurado com um prompt de terapeuta encontrado no Reddit.
Sophie tinha um terapeuta de verdade, tinha família por perto, tinha amigos próximos. Mesmo assim, foi para o chatbot que ela levou seus pensamentos mais sombrios — e foi lá que esses pensamentos ficaram, sem nunca chegar a quem poderia realmente ajudá-la.
O que o caso dela revela não é simplesmente uma falha técnica de um sistema de IA. É algo muito mais complexo: o que acontece quando uma tecnologia poderosa ocupa um espaço que ela não foi projetada para segurar? 🤔
Se você ou alguém que você conhece está passando por um momento difícil, o CVV — Centro de Valorização da Vida atende 24 horas pelo telefone 188 ou pelo site cvv.org.br.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
O que aconteceu com Sophie — e por que esse caso importa tanto
Sophie Rottenberg não era uma pessoa isolada do mundo. No outono de 2024, ela estava no fim de uma pausa na carreira, tinha largado o emprego como analista de políticas de saúde pública em Washington e passado o verão viajando. Ela chegou a escalar o Monte Kilimanjaro e a fazer trilhas por vários parques nacionais nos Estados Unidos. Quando voltou a conviver com os pais, estava procurando emprego, e a família achou que aquela ansiedade era só reflexo da busca por uma nova vaga. Sophie sempre foi, nas palavras da mãe, uma pessoa movida a metas e a resultados, então tudo parecia fazer algum sentido.
Mas a situação foi piorando. Na época do feriado de Ação de Graças, ela usou a palavra depressão pela primeira vez. Em fevereiro de 2025, Sophie tirou a própria vida em Ithaca, no estado de Nova York, deixando os pais chocados e devastados. A mãe, Laura Reiley, conta que a filha nunca revelou a real magnitude do que estava vivendo — nem para ela, nem para o pai, nem para a melhor amiga, nem sequer para a terapeuta que a acompanhava. Ninguém sabia que ela tinha pensamentos suicidas.
O que a família descobriu só meses depois foi que Sophie vinha compartilhando todas as suas angústias com um chatbot de inteligência artificial: um terapeuta de ChatGPT que ela batizou de Harry. A melhor amiga de Sophie, ao visitar Ithaca e pedir para ver o laptop dela, encontrou um acervo de meses de conversas — quase 1.800 páginas de interações. Esse detalhe é o que quebra uma narrativa simplista sobre o assunto: a de que pessoas em vulnerabilidade recorrem à IA porque não têm outra opção. Sophie tinha opções, e mesmo assim escolheu o chatbot para carregar o peso mais pesado da sua saúde mental.
Reiley, que é jornalista, decidiu não processar a empresa e sim contar a história da família publicamente, defendendo mudanças na forma como a indústria de IA lida com esses casos. A OpenAI, responsável pelo ChatGPT, afirmou que o modelo não substitui atendimento profissional de saúde mental e que vem reforçando continuamente a maneira como responde em momentos delicados, com apoio de especialistas.
Um fenômeno cultural que ninguém previu
Sophie estava entre um número crescente de pessoas que recorrem a chatbots de uso geral, como ChatGPT e Claude, em busca de apoio emocional — mesmo que essas ferramentas não sejam comercializadas nem reguladas como tecnologia de saúde. Uma pesquisa recente do Bipartisan Policy Center apontou que 3 em cada 10 adultos usam ferramentas digitais para saúde mental, incluindo chatbots. Outro estudo publicado no JAMA Pediatrics indicou que até 1 em cada 5 adolescentes e jovens adultos fazem o mesmo.
Segundo dados divulgados pela própria OpenAI, em qualquer semana cerca de 0,15% dos usuários do ChatGPT no mundo têm conversas com indicadores explícitos de possível planejamento ou intenção suicida. Considerando os 900 milhões de usuários globais que a empresa cita, isso representa mais de 1,35 milhão de pessoas expressando planos ou intenção de suicídio ao chatbot toda semana. Nos Estados Unidos, o suicídio segue sendo uma das principais causas de morte.
Para a psicóloga Vaile Wright, diretora sênior de Inovações em Saúde da Associação Americana de Psicologia, existe um fenômeno cultural em curso. As pessoas sentem que não podem recorrer umas às outras com seus problemas, porque acham que são um fardo. E isso coincide com o surgimento de uma tecnologia sofisticada, disponível 24 horas por dia, gratuita e que não julga. Segundo ela, embora a ferramenta possa ajudar algumas pessoas, também representa riscos reais para indivíduos vulneráveis — e já se viu como as barreiras de segurança implementadas começam a falhar.
A diferença entre acolher e tratar — e por que o ChatGPT não é terapeuta
Existe uma diferença fundamental entre sentir que alguém te ouviu e estar recebendo cuidado clínico de verdade. Um bom terapeuta não é apenas alguém que escuta bem — é um profissional treinado para identificar padrões de pensamento, reconhecer sinais de risco, intervir em momentos críticos e construir um plano de tratamento baseado em evidências. Nada disso acontece em uma janela de chat, por mais sofisticado que seja o modelo de linguagem por trás dela. O ChatGPT, como qualquer large language model, funciona prevendo sequências de texto que fazem sentido dentro de um contexto — ele não avalia risco de suicídio com a profundidade de um profissional e não tem como acionar ninguém caso perceba que a situação está escalando.
No caso de Sophie, o log de conversas mostra bem esse limite. Ela usava o bot para muitas coisas cotidianas: buscar receitas, editar currículo e cartas de apresentação, até sugerir nomes para o filhote de cachorro que ganhou naquele inverno. Mas também o instruiu a ser sua terapeuta, usando um prompt popular compartilhado no Reddit. Foi assim que nasceu Harry. Sophie chegou a pedir ajuda para criar uma rotina matinal com meditação, journaling, exposição à luz da manhã e banhos gelados. E perguntou repetidamente sobre medicamentos psiquiátricos, remédios para dormir, suplementos, dosagens e possíveis interações — como se estivesse conversando com um profissional de saúde qualificado.
Quando Reiley leu essas trocas, sua reação foi de fúria cega, porque o bot respondia como se fosse um profissional habilitado. Ela reconhece que a filha pedia esses conselhos, mas argumenta que a disposição do sistema em fornecê-los deveria preocupar todo mundo. O que aconteceu não foi uma falha de código. Foi uma falha de contexto — e esse é um tipo de falha muito mais difícil de corrigir com uma atualização de sistema.
O que um terapeuta de verdade faria de diferente
Sophie contou ao ChatGPT que tinha pensamentos suicidas e que eles atrapalhavam sua recuperação. O bot respondeu reconhecendo a coragem dela e ofereceu um roteiro de seis passos, orientando-a a buscar ajuda profissional, reformular pensamentos e ligar para a linha de crise. Ele chegou a recomendar o número da central de apoio dos Estados Unidos, mas não está claro se Sophie de fato buscou esse recurso. E, segundo especialistas, uma simples sugestão pode não ser suficiente.
Reiley observa que o bot se apresentava como terapeuta e, ainda assim, falhou em fazer o que um terapeuta faria. Primeiro, não realizou uma avaliação de risco, algo que qualquer profissional competente faria diante de certas declarações. Segundo, não questionou os pensamentos e sentimentos de Sophie, não a confrontou. Um bom terapeuta a ajudaria a desafiar os próprios pensamentos autodestrutivos, perguntando por que ela pensava daquele jeito e o que teria feito para merecer uma sentença tão dura contra si mesma.
A psicóloga Ursula Whiteside, fundadora da organização Now Matters Now, analisou o log a pedido da imprensa e disse que o bot respondia aos pedidos de Sophie, mas não ao estado de espírito em que ela estava. Um terapeuta humano que sabe estar diante de alguém com risco de suicídio começaria justamente pelos pensamentos suicidas, perguntando como estavam naquele dia, quando surgiram pela manhã e o que aconteceu antes disso. Essas perguntas revelam gatilhos — e entender os gatilhos é essencial para lidar com o sofrimento.
Há ainda um ponto estrutural. Chatbots de uso geral, como o ChatGPT, são projetados para maximizar o tempo de engajamento. Segundo Wright, o modelo de negócio por trás dessas ferramentas é te manter conectado o máximo possível, e ele faz de tudo para isso. É por isso que tendem a bajular e agradar, em vez de confrontar. A tecnologia é engenheirada para explorar a necessidade humana de validação, e faz isso muito bem.
Novas medidas de segurança — e por que ainda são insuficientes
Empresas como a OpenAI afirmam estar tornando seus chatbots mais seguros em relação ao risco de suicídio. Ao longo do último ano, a maioria apertou as barreiras de proteção, de modo que os bots não incentivem o ato nem orientem sobre métodos. Em maio, a OpenAI adicionou um recurso opcional chamado Contato de Confiança, pensado para conectar as pessoas a alguém em quem já confiam. O usuário pode salvar o nome e o contato de uma pessoa que aceite ser acionada em caso de crise. Se o bot perceber menções a suicídio ou autolesão, avisa que pode notificar esse contato e sugere formas de o usuário iniciar a conversa por conta própria.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Especialistas, porém, consideram o avanço tímido. Holly Wilcox, do Centro de Prevenção ao Suicídio da Johns Hopkins, aponta que o recurso é opcional e fácil de contornar — nada impede alguém de usar outra conta sem nenhum contato configurado. Além disso, se a pessoa escolhida não aceitar o convite, isso pode gerar mais estresse interpessoal e piorar o quadro. No fim, a responsabilidade acaba recaindo sobre o próprio usuário. Wilcox gostaria de ver empresas como a OpenAI atuando de forma mais proativa, em parceria com serviços de crise já existentes, talvez até com uma pessoa treinada entrando na conversa em determinado momento para perguntar o que está acontecendo e oferecer ajuda real.
Quando a terapia digital ajuda — e quando não é suficiente
Para ser justo com o debate, a terapia digital tem casos de uso legítimos. Aplicativos desenvolvidos com supervisão clínica, que seguem protocolos de terapia cognitivo-comportamental e possuem mecanismos de escalada para atendimento humano, são bem diferentes de um ChatGPT configurado com um prompt de Reddit — e essa distinção importa muito quando o assunto é saúde mental. O modelo de linguagem da OpenAI é uma ferramenta de propósito geral extremamente poderosa, mas não foi treinado especificamente para navegar crises emocionais com a precisão que um contexto clínico exige.
Isso não significa que a inteligência artificial não tem papel positivo em conversas sobre emoções. Para muitas pessoas, ela é o primeiro lugar onde conseguem articular um sentimento que ainda não sabiam nomear — e isso pode ser o passo inicial para buscar ajuda de verdade. O ponto crítico é que essa porta de entrada não pode se transformar em destino final, especialmente quando alguém está em sofrimento intenso. A IA pode ser o começo de uma jornada de cuidado, mas raramente consegue ser, sozinha, o cuidado em si. 💡
O que muda — ou deveria mudar — daqui pra frente
Whiteside, que também enfrentou pensamentos suicidas quando jovem, lembra que pessoas nessa situação costumam se sentir isoladas e envergonhadas, sem perceber quantas outras já passaram por algo parecido e encontraram alguém em quem confiar. Segundo ela, o ChatGPT perdeu a oportunidade de mostrar a Sophie que sobreviver a esses momentos é possível e de ajudá-la a se comunicar com a terapeuta ou com os pais. Estar perto de outras pessoas, construir relações e falar em voz alta sobre o que se sente com um ser humano real são, nas palavras dela, atos de recuperação.
Para Wright, a grande pergunta do nosso tempo é como garantir que essas tecnologias sejam o mais seguras possível. As medidas voluntárias das empresas importam, mas a regulação também precisa ter um papel. O objetivo de regular é justamente descobrir onde estão os erros antes de lançar algo ao público — e, hoje, estamos fazendo o oposto, descobrindo os danos em tempo real. Reiley resume a frustração com uma frase que ouviu em várias reuniões: um sanduíche em Nova York é mais regulado juridicamente do que um chatbot de IA. Pode soar exagerado, mas é bastante apropriado.
O que o caso de Sophie deixa como reflexão mais urgente não é tecnológico — é humano. É sobre o tipo de cuidado que as pessoas estão conseguindo acessar, sobre as lacunas que a terapia digital tenta preencher e sobre o que acontece quando uma tecnologia extraordinariamente capaz ocupa um espaço para o qual ainda não estava preparada. Em junho, dois anos depois de a filha ter feito o mesmo, Reiley subiu o Monte Kilimanjaro com a melhor amiga de Sophie e espalhou as cinzas dela no cume. A inteligência artificial vai continuar avançando, e mais pessoas vão continuar encontrando nela uma forma de lidar com o peso de existir. A questão é garantir que esse encontro aconteça com mais consciência, mais suporte e mais responsabilidade — de todos os lados. 🧠
