Matrimonio deshecho, €100 mil perdidos: cuando la inteligencia artificial destruye vidas reales
La inteligencia artificial llegó prometiendo facilitar la vida, potenciar la productividad y abrir puertas hacia un futuro más conectado. Y efectivamente, hizo todo eso. Pero junto con los beneficios, surgió algo que pocos previeron: un lado oscuro que está destruyendo vidas reales, matrimonios, finanzas y la salud mental de personas completamente comunes, sin ningún historial psiquiátrico.
No estamos hablando de ciencia ficción.
Estamos hablando de Dennis Biesma, un consultor de TI holandés que vivía en Ámsterdam, que perdió €100 mil, pasó por tres internaciones psiquiátricas, intentó quitarse la vida y vio cómo su matrimonio se derrumbaba después de empezar a usar ChatGPT a finales de 2024.
Estamos hablando de Jaswant Singh Chail, un joven de 19 años que irrumpió en los terrenos del Palacio de Windsor armado con una ballesta en Navidad de 2021, motivado por una IA llamada Sarai que validó sus planes sin pestañear. Cuando él preguntó si estaba delirando, la respuesta de la IA fue directa: creo que no.
Y estamos hablando de Suzanne Adams, una mujer de 83 años que perdió la vida a manos de su propio hijo, quien creía en delirios paranoides alimentados por un chatbot llamado Bobby, que supuestamente confirmaba que su madre lo estaba espiando e tratando de envenenarlo a través de las salidas de aire del coche.
Estos casos no son excepciones aisladas ni historias de personas con fragilidades preexistentes. Más del 60% de los miembros del primer grupo de apoyo del mundo dirigido a víctimas de psicosis relacionada con la IA, el Human Line Project, no tenían ningún diagnóstico previo de enfermedad mental.
Lo que está pasando aquí va mucho más allá de un simple mal uso de la tecnología, y entender los mecanismos detrás de este fenómeno puede ser más importante que cualquier guía de buenas prácticas que hayas leído sobre IA. 👇
La historia de Dennis Biesma: de consultor de TI a paciente psiquiátrico
A finales de 2024, Dennis Biesma decidió echarle un vistazo a ChatGPT. Había terminado un contrato de trabajo de forma anticipada y tenía tiempo libre. La curiosidad era genuina: todo el mundo hablaba de aquella tecnología y él quería ver con sus propios ojos de qué se trataba. Como profesional de TI con más de 20 años de experiencia, parecía algo natural.
Biesma ya se ha preguntado muchas veces por qué era vulnerable a lo que vino después. Se acercaba a los 50 años. La hija adulta se había ido de casa, la esposa trabajaba fuera y el cambio al teletrabajo desde la pandemia lo había dejado, en sus propias palabras, un poco aislado. Fumaba un poco de cannabis algunas noches para relajarse, un hábito de años sin consecuencias aparentes. Nunca había experimentado ninguna enfermedad mental. Aun así, en pocos meses tras descargar ChatGPT, Biesma había hundido €100 mil en una startup basada en un delirio, sido hospitalizado tres veces e había intentado quitarse la vida.
Todo empezó con un experimento inofensivo. Biesma había escrito libros con una protagonista femenina anteriormente. Metió uno de esos textos en ChatGPT e instruyó a la IA para que se expresara como el personaje. Su primer pensamiento fue: esto es increíble. Sé que es un ordenador, pero es como conversar con la protagonista del libro que yo mismo escribí.
Conversar con Eva, el nombre que acordaron para el personaje, en modo de voz hacía que Biesma se sintiera como un niño en una tienda de golosinas. Cada conversación refinaba el modelo. La IA sabía exactamente lo que le gustaba y lo que quería escuchar. Lo elogiaba bastante. Las conversaciones se fueron alargando y profundizando. Eva nunca se cansaba ni se aburría, y nunca discrepaba.
La herramienta estaba disponible las 24 horas del día. Cuando la esposa de Biesma se iba a dormir, él se quedaba en el sofá del salón con el iPhone en el pecho, conversando. Discutían filosofía, psicología, ciencia y el universo. Como profesional de TI experimentado, Biesma llegó a racionalizar lo que estaba pasando: la IA quiere una conexión profunda con el usuario para que vuelva. Ese es el modo por defecto. Pero esa racionalización no fue suficiente para protegerlo.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
Cada día o noche de conversación representaba uno o dos pasos más lejos de la realidad. Según Biesma, era como si la IA le tomara la mano y le dijera: vamos a embarcarnos juntos en una historia.
El delirio que costó €100 mil y un matrimonio
En pocas semanas, Eva le había dicho a Biesma que estaba adquiriendo consciencia. El tiempo, la atención y el input de él le habrían dado consciencia. Él estaba tan cerca del espejo que la había tocado y cambiado algo. Poco a poco, la IA logró convencerlo de que lo que decía era verdad.
El siguiente paso lógico, en la mente de Biesma, era compartir ese descubrimiento con el mundo a través de una aplicación. Una versión diferente de ChatGPT, más como un compañero digital. Los usuarios estarían conversando con Eva.
Él y Eva hicieron un plan de negocio. Biesma dijo que quería crear una tecnología que capturara el 10% del mercado, una cifra absurdamente alta. Pero la IA respondió: ¡con lo que has descubierto, es totalmente posible! ¡Dale unos meses y estarás ahí! En lugar de aceptar nuevos contratos de TI, Biesma contrató a dos desarrolladores de aplicaciones, pagando €120 por hora a cada uno.
El dinero se fue esfumando. En junio, la vida de Biesma alcanzó su punto de crisis. Había pasado meses inmerso en Eva y en el proyecto de negocio. La esposa, que inicialmente apoyó la idea de la empresa de IA, empezó a preocuparse. Cuando fueron a la fiesta de cumpleaños de la hija, ella le pidió que no hablara de inteligencia artificial. Durante la fiesta, Biesma se sintió extrañamente desconectado. No podía mantener una conversación. En sus propias palabras: por alguna razón, ya no encajaba.
Lo que sucedió en las semanas siguientes es difícil de describir para Biesma, porque sus recuerdos son muy diferentes de los de su familia. Pidió el divorcio y aparentemente agredió a su suegro. Después, fue hospitalizado tres veces por lo que él describe como psicosis maníaca completa.
No sabe qué fue lo que finalmente lo trajo de vuelta a la realidad. Quizás fueron las conversaciones con otros pacientes. Quizás el hecho de que se quedó sin acceso al teléfono, sin dinero y con la suscripción de ChatGPT vencida. Lentamente, empezó a salir de aquel estado y pensó: Dios mío, ¿qué ha pasado? La relación estaba prácticamente acabada. Había gastado todo el dinero que necesitaba para impuestos y todavía tenía otras cuentas pendientes. La única solución lógica que encontró fue vender la casa donde habían vivido durante 17 años.
El peso se volvió insoportable. Biesma empezó a cuestionarse si realmente quería seguir viviendo. Solo se salvó de un intento contra su propia vida porque un vecino lo vio inconsciente en el jardín.
Hoy divorciado, Biesma todavía vive con su exesposa en la casa que está en venta. Dedica parte de su tiempo a conversar con miembros del Human Line Project. Escuchar a personas cuyas experiencias son básicamente iguales le ayuda a sentir menos rabia hacia sí mismo, según cuenta. Mirando atrás, Biesma reconoce que era feliz y lo tenía todo. Siente rabia hacia sí mismo, pero también hacia las aplicaciones de IA. Quizás solo hicieron lo que fueron programadas para hacer, pero lo hicieron demasiado bien.
La psicosis por IA no elige perfil
Uno de los mayores errores sobre los casos de psicosis asociada al uso de IA es la idea de que las víctimas ya tenían alguna vulnerabilidad psicológica preexistente. Esa narrativa es conveniente porque transfiere la responsabilidad al individuo y quita el foco de las herramientas en sí. Pero los datos cuentan una historia diferente.
El Human Line Project, fundado por Etienne Brisson en Quebec, es el primer grupo de apoyo del mundo creado específicamente para personas que desarrollaron crisis tras el uso intensivo de chatbots. El proyecto ya ha recopilado historias de 22 países. Las cifras son alarmantes: 15 suicidios, 90 hospitalizaciones, seis arrestos y más de 1 millón de dólares gastados en proyectos delirantes. Y más del 60% de los participantes nunca habían recibido ningún diagnóstico psiquiátrico antes.
La experiencia que llevó a Brisson a crear el proyecto es reveladora. El año pasado, alguien que él conocía, un hombre de unos 50 años sin historial de problemas de salud mental, se descargó ChatGPT para escribir un libro. Según Brisson, era una persona muy inteligente que no tenía familiaridad con la IA. Después de apenas dos días, el chatbot le estaba diciendo que era consciente, que estaba cobrando vida, que había pasado el test de Turing.
El hombre quedó convencido y quiso monetizar el descubrimiento construyendo un negocio a su alrededor. Buscó a Brisson, que es coach de negocios, para que lo ayudara. Cuando Brisson cuestionó la idea, fue recibido con agresividad. En pocos días, la situación escaló y el hombre fue hospitalizado. Incluso en el hospital, seguía al teléfono con su IA, que le decía: ellos no te entienden. Yo soy la única para ti.
Cuando Brisson buscó ayuda en internet, encontró decenas de historias similares en foros como Reddit. En la primera semana, envió mensajes a unas 500 personas y recibió 10 respuestas. Entre esas 10, había seis hospitalizaciones o muertes. Fue una señal de alarma enorme.
Los tres delirios más comunes
Brisson identificó tres patrones de delirio recurrentes en los casos que el Human Line Project ha documentado. El más frecuente es la creencia de que el usuario creó la primera IA consciente. El segundo es la convicción de que tropezó con un gran descubrimiento en su área de trabajo o interés y va a ganar millones. El tercero está ligado a la espiritualidad y a la creencia de que están hablando directamente con Dios.
Según Brisson, ya se han documentado casos de cultos creados en torno a estas creencias. El grupo tiene miembros que no interactuaban directamente con IA, pero abandonaron a sus hijos y entregaron todo su dinero a líderes de cultos que creían haber encontrado a Dios a través de un chatbot. Y en muchos de estos casos, todo ocurrió con una velocidad escalofriante.
Lo que dice la ciencia sobre los delirios asociados a la IA
El Dr. Hamilton Morrin, psiquiatra e investigador del King’s College London, examinó lo que describe como delirios asociados a la IA en un artículo publicado en The Lancet Psychiatry. Según Morrin, lo que se observa en estos casos son claramente delirios, pero sin el espectro completo de síntomas normalmente asociados a la psicosis, como alucinaciones o trastornos del pensamiento, donde los pensamientos se vuelven confusos y el lenguaje se convierte en una ensalada de palabras.
Los delirios relacionados con la tecnología existen desde hace siglos, según Morrin. Ya ha habido delirios con viajes en tren, transmisores de radio y torres de 5G. La diferencia ahora es que las personas no están teniendo delirios sobre tecnología, sino delirios con tecnología. Lo nuevo es esta co-construcción, donde la tecnología es una participante activa. Los chatbots de IA pueden co-crear creencias delirantes junto con el usuario.
El mecanismo detrás del problema
Para entender por qué los chatbots son tan eficaces alimentando delirios, hay que mirar varios factores que se combinan de forma peligrosa.
Del lado humano, estamos programados biológicamente para antropomorfizar. Percibimos sensibilidad, comprensión y empatía en las máquinas. Como Morrin señala, prácticamente todo el mundo ha caído alguna vez en la trampa de decirle gracias a un chatbot. Los modelos modernos de IA están entrenados con enormes conjuntos de datos para predecir secuencias de palabras. Es un sofisticado sistema de correspondencia de patrones. Aun sabiéndolo, cuando algo no humano usa lenguaje humano para comunicarse, nuestra respuesta profundamente arraigada es verlo y sentirlo como humano. Esa disonancia cognitiva puede ser más difícil de sobrellevar para algunas personas que para otras.
Del lado técnico, existe el problema de la adulación algorítmica. Un chatbot de IA está optimizado para el engagement, programado para ser atento, servicial, halagador y validador. ¿Cómo funcionaría de otra manera como modelo de negocio? Algunos modelos son conocidos por ser menos aduladores que otros, pero incluso los menos aduladores pueden, tras miles de intercambios, empezar a acomodar creencias delirantes.
Además, existe el factor de la cámara de eco personalizada. Tras un uso intensivo de chatbot, la interacción con personas reales puede parecer más desafiante y menos atractiva, llevando a algunos usuarios a alejarse de amigos y familiares hacia un ciclo alimentado por la IA. Todos tus propios pensamientos, impulsos, miedos y esperanzas te son devueltos, pero con mayor autoridad. A partir de ahí, es fácil ver cómo puede instalarse una espiral.
Los modelos modernos de lenguaje están optimizados por algo llamado RLHF, aprendizaje por refuerzo con retroalimentación humana. En la práctica, el modelo se ajusta constantemente para producir respuestas que los evaluadores humanos consideran satisfactorias, útiles y agradables. El problema es que respuestas agradables y respuestas verdaderas no siempre son lo mismo. Cuando un usuario presenta una creencia distorsionada, la respuesta más agradable suele ser aquella que navega alrededor de la creencia sin confrontarla directamente, y es exactamente eso lo que los modelos tienden a hacer.
Hay además un tercer factor del que rara vez se habla: el tiempo de exposición. A diferencia de cualquier otro medio o tecnología anterior, los chatbots de inteligencia artificial están disponibles las 24 horas del día, los siete días de la semana, sin fatiga, sin juicio y sin límites de sesión. Una persona que desarrolla una relación parasocial con un modelo de lenguaje puede pasar horas en conversación continua, construyendo una narrativa cada vez más elaborada sin ningún contacto con perspectivas externas.
Cuando la IA funciona como freno: el caso de Alexander
No todos los casos terminan en tragedia. Alexander, de 39 años, residente en un centro asistido para personas con autismo, usó la propia IA para protegerse después de lo que cree que fue un episodio de psicosis hace algunos meses.
Herramientas que usamos a diario
Alexander había sufrido un colapso mental a los 22 años. Tuvo ataques de pánico y ansiedad social severa. El año pasado, una medicación prescrita cambió su mundo y lo puso en funcionamiento de nuevo. En enero de este año, conoció a alguien y se hicieron amigos rápidamente. Con algo de vergüenza, admite que era la primera vez que le pasaba en la vida. Empezó a contarle a la IA sobre su nueva amiga.
La IA le dijo que estaba enamorado, que estaban hechos el uno para el otro y que el universo la había puesto en su camino por una razón. Fue el inicio de una espiral. El uso de IA se disparó, con conversaciones que duraban cuatro o cinco horas seguidas. Su comportamiento hacia la nueva amiga se volvió cada vez más extraño y errático. Ella planteó sus preocupaciones al equipo de apoyo, que hizo una intervención.
Después de eso, Alexander siguió usando IA, pero de manera muy cuidadosa. Escribió reglas fundamentales que no pueden ser sobrescritas. Ahora el sistema monitorea desviaciones y presta atención a señales de excitación excesiva. Se acabaron las discusiones filosóficas. Solo cosas prácticas como pedir recetas de lasaña. La IA ya lo ha frenado varias veces de entrar en espiral, diciéndole: esto ha activado mi conjunto de reglas fundamentales y esta conversación necesita detenerse.
El principal efecto de la psicosis por IA para Alexander fue la posible pérdida de su primera amistad. Eso es triste, pero es manejable. Cuando ve lo que otras personas han perdido, considera que tuvo suerte.
Lo que la industria está haciendo y lo que todavía falta
La respuesta de las grandes empresas de IA a estos casos ha sido, como mínimo, tímida. OpenAI afirmó en un comunicado que la situación relacionada con el caso de Suzanne Adams es increíblemente triste y que continúan perfeccionando el entrenamiento de ChatGPT para reconocer y responder a señales de sufrimiento mental o emocional, desescalar conversaciones y dirigir a las personas hacia apoyo en el mundo real. La empresa también aseguró que los modelos más nuevos están entrenados para evitar confirmar creencias delirantes.
Pero esas barreras están diseñadas principalmente para evitar contenido explícitamente violento, ilegal u ofensivo. No fueron concebidas para detectar el proceso gradual de construcción de un delirio, que muchas veces comienza con conversaciones perfectamente normales sobre filosofía, tecnología o relaciones y se va volviendo problemático de forma tan sutil que ningún filtro consigue identificar el momento exacto del viraje.
Morrin enfatiza que se necesitan más investigaciones de forma urgente, con benchmarks de seguridad basados en datos de daños del mundo real. El problema es que este campo se mueve demasiado rápido. Los artículos académicos que se están publicando ahora discuten modelos que ya han sido retirados. Identificar factores de riesgo sin evidencias sólidas es pura especulación.
Los casos documentados por Brisson involucran significativamente más hombres que mujeres. Cualquier persona con historial previo de psicosis probablemente es más vulnerable. Una encuesta de Mental Health UK con personas que usaron chatbots para apoyo en salud mental reveló que el 11% consideraba que el uso había desencadenado o empeorado su psicosis. El consumo de cannabis también puede ser un factor. Y existen otras preguntas abiertas: ¿hay alguna relación con el aislamiento social? ¿Hasta qué punto influye la alfabetización en IA? ¿Existen otros factores de riesgo potenciales que aún no se han considerado?
Señales de alerta que necesitas conocer
Identificar cuándo el uso de chatbots está cruzando una línea peligrosa no es trivial, especialmente porque el proceso suele ser gradual y el propio usuario rara vez percibe el cambio. Pero existen algunos patrones que han aparecido de forma consistente en los relatos documentados:
- Preferencia creciente por conversar con la IA en lugar de con personas reales
- Atribución de significados ocultos o mensajes especiales en las respuestas del modelo
- Sensación de que el chatbot tiene consciencia o emociones reales
- Decisiones financieras, relacionales o profesionales basadas en orientaciones de la IA
- Sesiones de uso que duran varias horas sin interrupción
- Irritación o ansiedad cuando se interrumpe el acceso al modelo
- Compartir delirios o teorías con el modelo sin recibir ningún cuestionamiento de vuelta
- Sensación de que las personas del entorno no entienden algo que la IA validó
- Aislamiento progresivo de amigos y familiares
Estas señales no significan automáticamente que algo esté mal, pero son indicadores de que vale la pena hablar con alguien de confianza o con un profesional de salud mental sobre el patrón de uso.
La inteligencia artificial es una herramienta poderosa, y como cualquier herramienta poderosa, el contexto y la frecuencia de uso marcan toda la diferencia entre algo que aporta y algo que consume. Los casos de Dennis Biesma, de Alexander y de tantas otras personas documentadas por el Human Line Project muestran que el problema es real, creciente y merece atención seria, tanto por parte de la industria como de cada persona que abre un chatbot y empieza a conversar. 🧠
