Cómo la inteligencia artificial fabricó sentencias falsas en un tribunal de la India
El uso de inteligencia artificial dentro del poder judicial acaba de protagonizar uno de los episodios más preocupantes de los últimos años. En la ciudad de Vijaywada, en el estado de Andhra Pradesh, en la India, una jueza de primera instancia tomó una decisión en una disputa de propiedad citando cuatro sentencias anteriores como base legal para su fallo. Hasta ahí, todo dentro de lo esperado en cualquier proceso judicial común. El detalle que transformó este caso en un escándalo es que ninguna de esas cuatro sentencias existió jamás. Todas fueron fabricadas por una herramienta de IA generativa, y la jueza las utilizó sin verificar si eran reales.
Cuando los demandados identificaron las citas falsas e impugnaron la decisión, el caso escaló rápidamente por las instancias judiciales. Primero llegó al Tribunal Superior de Andhra Pradesh y, después, a la Corte Suprema india, que reaccionó de forma contundente y clasificó la conducta no como un simple error técnico, sino como un acto de mala conducta con impacto directo en la integridad del proceso de juzgamiento.
Qué ocurrió en el caso de Andhra Pradesh
Los problemas comenzaron en agosto del año pasado, cuando la jueza civil de primera instancia en Vijaywada emitió una decisión sobre un inmueble en disputa. El tribunal había designado previamente a un funcionario oficial para realizar una inspección de la propiedad y presentar un informe. Los demandados se opusieron a esa medida, pero la jueza rechazó la objeción, fundamentando su decisión en cuatro sentencias anteriores que, supuestamente, le darían respaldo jurídico a su postura.
El problema es que esas cuatro sentencias simplemente no existían. Habían sido generadas por una herramienta de inteligencia artificial generativa, y la jueza las incorporó a su fallo sin hacer ningún tipo de verificación en las bases de datos oficiales del poder judicial indio. Cuando los demandados sospecharon de las citas y fueron a comprobarlas, descubrieron que ninguna correspondía a casos reales. A partir de ahí, impugnaron la decisión ante el Tribunal Superior del estado.
Los sistemas de IA generativa son ampliamente conocidos por su capacidad de alucinar — un término técnico que describe situaciones en las que el modelo presenta información falsa con total convicción, llegando incluso a inventar fuentes para dar credibilidad al contenido fabricado. Este fenómeno es particularmente peligroso en el ámbito jurídico, donde la precisión de las referencias es fundamental para la validez de cualquier decisión.
La reacción del Tribunal Superior y la defensa de la jueza
Al analizar el recurso de los demandados, el Tribunal Superior de Andhra Pradesh reconoció que, efectivamente, las citas utilizadas por la jueza eran falsas. Sin embargo, el tribunal adoptó una postura más indulgente con respecto a la magistrada. Aceptó que la jueza había cometido el error de buena fe y, en una decisión que generó bastante controversia, mantuvo la sentencia original del tribunal de primera instancia.
En su fundamentación, el Tribunal Superior argumentó que, aunque las citas fueran inexistentes, la jueza había aplicado los principios correctos de derecho a los hechos del caso. Según el tribunal, la simple mención de decisiones falsas o inexistentes en la sentencia no sería motivo suficiente para anular la orden, siempre y cuando la lógica jurídica detrás de ella fuera correcta.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
El Tribunal Superior también solicitó un informe a la jueza que había utilizado las sentencias generadas por IA. Ella informó que aquella era la primera vez que utilizaba una herramienta de inteligencia artificial y que había creído que las citas eran genuinas. Afirmó que no tenía ninguna intención de citar erróneamente o distorsionar decisiones judiciales y que el error ocurrió exclusivamente por haber confiado en una fuente automatizada.
El Tribunal Superior además hizo un llamado para que los profesionales del derecho priorizaran el ejercicio de la inteligencia real sobre la inteligencia artificial — una frase que repercutió ampliamente en los medios indios e internacionales.
La Corte Suprema india no perdonó
Insatisfechos con la decisión del Tribunal Superior, los demandados recurrieron a la Corte Suprema de la India, en Nueva Delhi. Y allí, la recepción fue muy diferente. Los jueces de la más alta instancia del país fueron severos en su análisis y no aceptaron la tesis de que el episodio pudiera tratarse como un error de buena fe.
El viernes pasado, la Corte Suprema suspendió la decisión del tribunal de primera instancia sobre la disputa de propiedad. En su pronunciamiento, el tribunal clasificó el uso de sentencias fabricadas por IA como un acto de mala conducta, y no como un simple error en la toma de decisiones. Los jueces destacaron que el caso representaba una cuestión de preocupación institucional considerable, no tanto por la decisión en sí sobre el fondo del caso, sino por lo que revelaba sobre el proceso de juzgamiento y determinación judicial.
La Corte Suprema afirmó que las sentencias falsas generadas por inteligencia artificial tienen un impacto directo en la integridad del proceso de adjudicación y anunció que examinará el caso con mayor profundidad. Para ello, emitió notificaciones al Procurador General y al Solicitor General de la India, además del Consejo del Colegio de Abogados del país, convocando a estas autoridades a pronunciarse sobre la cuestión.
El problema de las sentencias falsas no es exclusivo de la India
Este episodio enciende una alerta global, y no es exagerado decirlo 🚨. Casos similares de sentencias falsas generadas por inteligencia artificial ya se han registrado en otros países, mostrando que esta es una tendencia preocupante que acompaña la popularización de las herramientas de IA generativa.
En Estados Unidos, dos jueces federales fueron llamados a dar explicaciones en octubre tras el uso de herramientas de IA que resultó en errores en sus decisiones. También en EE.UU., un abogado de Nueva York ganó notoriedad internacional cuando utilizó ChatGPT para preparar un escrito judicial y terminó citando decisiones anteriores que simplemente no existían. El juez responsable del caso aplicó sanciones al profesional y el episodio se convirtió en referencia sobre los riesgos del uso irresponsable de IA en el ámbito jurídico.
En Inglaterra, el Tribunal Superior de Inglaterra y Gales emitió una alerta en junio de 2025 para que los abogados no utilicen material jurídico generado por inteligencia artificial, después de que una serie de casos presentara decisiones ficticias o parcialmente inventadas como fundamentación. La preocupación es la misma en todos estos países: las herramientas de IA generativa crean textos extremadamente convincentes, incluyendo referencias jurídicas ficticias que parecen absolutamente legítimas para quien no realiza una verificación cuidadosa en las bases de datos oficiales.
En otro caso reciente en la propia India, el mes pasado, la Corte Suprema expresó preocupación por la tendencia creciente de abogados que utilizan herramientas de IA para redactar escritos. El tribunal clasificó la práctica como absolutamente inaceptable, según el portal jurídico LiveLaw.
Por qué la inteligencia artificial fabrica información con tanta naturalidad
Es importante entender el mecanismo detrás de estas fabricaciones. Los modelos de IA generativa funcionan prediciendo cuál es la siguiente palabra más probable en una secuencia de texto. No consultan bases de datos jurídicas reales, no acceden a repositorios oficiales de decisiones judiciales y no tienen la capacidad de distinguir entre una sentencia verdadera y una ficticia.
Cuando reciben una solicitud como cita sentencias anteriores sobre disputas de propiedad en la India, estos modelos simplemente crean textos que se parecen a citas jurídicas reales, con nombres de tribunales, fechas, números de expediente e hasta fragmentos de fundamentación — todo absolutamente inventado, pero con una apariencia extremadamente convincente. Este fenómeno, conocido como alucinación, es una limitación estructural de los grandes modelos de lenguaje y no puede resolverse solo con prompts más cuidadosos o con versiones más avanzadas de las herramientas.
Es justamente esa naturalidad en la fabricación de información lo que hace que el uso de estas herramientas sea tan peligroso en contextos donde la precisión factual es esencial, como en el poder judicial, la medicina y el periodismo.
Consecuencias legales y el futuro de la IA en el proceso judicial
Las consecuencias legales de este tipo de episodio van mucho más allá de una suspensión de sentencia o de una multa económica. Cuando sentencias falsas se utilizan para fundamentar decisiones, personas reales sufren impactos concretos. En el caso indio, los demandados en una disputa de propiedad casi perdieron sus derechos con base en precedentes que nunca existieron. Si no hubieran identificado las citas falsas e impugnado la decisión, la sentencia se habría mantenido, creando un precedente peligroso y potencialmente irreversible.
Herramientas que usamos a diario
Esto demuestra cómo la falta de verificación en el uso de inteligencia artificial puede comprometer derechos fundamentales y socavar la confianza pública en el sistema de justicia en su conjunto.
Diversos países ya han comenzado a discutir regulaciones específicas para el uso de IA en contextos jurídicos:
- Estados Unidos: algunos tribunales federales pasaron a exigir que los abogados declaren formalmente si utilizaron herramientas de inteligencia artificial en la elaboración de escritos y documentos judiciales.
- Unión Europea: el AI Act clasifica el uso de IA en el poder judicial como una aplicación de alto riesgo, exigiendo supervisión humana rigurosa y transparencia total sobre los métodos utilizados.
- India: el año pasado, la propia Corte Suprema publicó un documento técnico sobre inteligencia artificial en el poder judicial indio, enumerando buenas prácticas y directrices para el uso de IA por instituciones judiciales, abogados y funcionarios de los tribunales. El documento enfatizó la necesidad de supervisión humana y la importancia de mantener salvaguardas institucionales firmemente establecidas.
- Brasil: el Consejo Nacional de Justicia ya publicó resoluciones sobre el tema y ha seguido de cerca cómo los tribunales brasileños están implementando herramientas de IA en sus flujos de trabajo, siempre con la premisa de que la decisión final debe ser humana.
El equilibrio entre tecnología y responsabilidad humana
El punto central de esta discusión no es demonizar la inteligencia artificial ni sugerir que no tiene lugar en el proceso judicial. Por el contrario, las herramientas de IA pueden ayudar enormemente en la organización de documentos, en la clasificación de expedientes, en la investigación jurisprudencial y en la reducción de los cuellos de botella que hacen lenta a la justicia en prácticamente todos los países del mundo.
El problema está en el uso sin supervisión, sin verificación y sin responsabilidad. Cuando un profesional del derecho — ya sea abogado, juez o fiscal — delega la fundamentación de una decisión a una herramienta que no tiene compromiso con la verdad factual, las consecuencias pueden ser devastadoras. La IA puede ser una aliada poderosa en la investigación y en la organización de información, pero la validación, el análisis crítico y la decisión final necesitan seguir siendo atribuciones exclusivamente humanas.
El caso de la India sirve como un recordatorio poderoso de que la tecnología es una herramienta, y como toda herramienta, su valor depende enteramente de quién la utiliza y de cómo la utiliza. La Corte Suprema india dejó esto claro al tratar el episodio no como un accidente de recorrido, sino como una cuestión que afecta la credibilidad de todo el sistema judicial. Con la popularización cada vez mayor de las herramientas de IA generativa, episodios como este tienden a repetirse — y la respuesta de las instituciones necesita ser proporcional al riesgo que representan 🧠
