Suprema Corte da Índia reage a decisões falsas geradas por IA: o que realmente aconteceu
A Suprema Corte da Índia entrou em rota de colisão com o uso irresponsável de Inteligência Artificial no Judiciário depois de descobrir que uma juíza de primeira instância citou decisões que simplesmente não existiam. Essas decisões eram inteiramente fabricadas por uma ferramenta de IA.
O caso, que começou como uma disputa de propriedade na cidade de Vijayawada, no estado de Andhra Pradesh, acabou virando um problema institucional sério. A corte máxima do país classificou o episódio como questão de interesse público e deixou claro que documentos inventados por IA não podem ter lugar em um processo judicial sério, sob risco de abalar a confiança em todo o sistema.
Como a IA entrou em cena em um caso de disputa de propriedade
O ponto de partida foi um processo de disputa de imóvel em um tribunal civil de primeira instância em Vijayawada. O juiz responsável, uma juíza júnior, precisava decidir sobre uma contestação feita pelos réus a respeito de um relatório de vistoria da área em litígio, elaborado por um perito nomeado pela própria Justiça.
Para justificar a rejeição da objeção dos réus, a juíza citou quatro decisões anteriores, supostamente de tribunais superiores, que validariam sua linha de raciocínio. Só que havia um problema grave: esses precedentes não existiam em nenhum repositório oficial. Eram, na prática, julgamentos falsos gerados por IA.
As citações tinham toda a cara de decisão real: linguagem técnica, menção a tribunais, referências a princípios jurídicos e formatação típica de jurisprudência. Mas, ao serem confrontadas com as bases oficiais, simplesmente sumiam. Nada de número de processo válido, nada de decisão registrada. Era o clássico caso de alucinação de IA, quando o sistema inventa conteúdo convincente, porém totalmente desconectado da realidade.
O papel da juíza e o erro de confiar cegamente na máquina
Quando o caso foi questionado, a juíza explicou, em relatório ao tribunal superior do estado, que havia recorrido a uma ferramenta de Inteligência Artificial pela primeira vez. Ela afirmou que acreditou que as citações eram autênticas e não teve intenção de enganar ninguém. Segundo o relato, o erro aconteceu justamente por confiar demais na ferramenta e não checar as decisões em repositórios oficiais.
O Tribunal Superior de Andhra Pradesh reconheceu que as decisões citadas eram inexistentes, mas entendeu que o engano havia ocorrido em boa-fé. Na visão do tribunal estadual, a fundamentação jurídica da sentença estava correta, mesmo com as citações inválidas. Por isso, decidiu manter a decisão inicial, sustentando que o simples uso de referências erradas não seria, por si só, motivo para anular a ordem, desde que a aplicação da lei ao caso concreto estivesse adequada.
Na prática, o tribunal estadual adotou um tom mais tolerante: admitiu o risco da IA, criticou o uso irrefletido da tecnologia, mas poupou a juíza de uma reprimenda mais dura. E ainda aproveitou para registrar uma frase simbólica: seria necessário exercer a inteligência humana acima da inteligência artificial.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Quando o caso chega à Suprema Corte: boa-fé não basta
Os réus não se deram por satisfeitos e levaram a discussão à Suprema Corte da Índia. A partir daí, o tom mudou de forma bem clara. Em vez de enxergar o problema apenas como um detalhe técnico, a corte máxima tratou o assunto como uma ameaça à integridade do sistema de justiça.
Os ministros classificaram o episódio como questão de grave preocupação institucional. Para a Suprema Corte, o problema central não era apenas se a decisão final estava correta no mérito, mas sim o processo de adjudicação que levou a ela. Em outras palavras, pouco adianta ter um resultado aparentemente justo se o caminho usado para chegar a esse resultado é sustentado em documentos falsos.
A corte deixou claro que o uso de julgamentos falsos gerados por IA não poderia ser tratado apenas como um simples erro de interpretação ou descuido técnico. Para os ministros, isso se aproxima de conduta inadequada, sobretudo quando se trata de quem ocupa uma função tão sensível quanto a de julgar conflitos entre pessoas.
Decisão da Suprema Corte: suspensão da ordem e investigação mais profunda
Como resposta imediata, a Suprema Corte decidiu suspender a ordem do tribunal de primeira instância relacionada à disputa de propriedade. Na prática, isso significa que a decisão baseada em citações inexistentes deixa de produzir efeitos até que o caso seja revisto com mais cuidado.
Além disso, a corte emitiu notificações para autoridades-chave do sistema de justiça indiano, incluindo o Procurador-Geral e o Solicitor General do país, bem como para o Conselho de Ordem dos Advogados. A ideia é envolver todo o ecossistema jurídico na discussão sobre os limites e responsabilidades do uso de IA em processos judiciais.
O recado é direto: o Judiciário indiano não pretende normalizar decisões baseadas em conteúdo fabricado por algoritmos. A corte sinalizou que vai examinar de forma detalhada o caso e, se necessário, estabelecer protocolos mais rígidos para o uso de tecnologias de IA por juízes, advogados e servidores.
IA, alucinações e o risco para decisões judiciais
Ferramentas de Inteligência Artificial generativa, como modelos de linguagem, já fazem parte do dia a dia de muitos profissionais. Elas agilizam pesquisas, ajudam a organizar informações, resumem documentos e sugerem argumentos. Mas essas mesmas ferramentas também têm uma característica bem conhecida por quem acompanha o tema: a tendência de alucinar, isto é, apresentar como fato algo que nunca ocorreu.
No direito, essa alucinação pode assumir uma forma especialmente perigosa: precedentes inventados. A ferramenta gera um texto com aparência jurídica perfeita, menciona tribunais, datas e princípios legais, mas tudo foi predito estatisticamente, não resgatado de uma base oficial. Quando o usuário não checa o que recebeu e trata esse texto como se fosse jurisprudência real, o erro deixa de ser técnico e vira risco sistêmico.
Foi exatamente isso que o caso de Andhra Pradesh escancarou. Não se trata apenas de um erro qualquer, mas de um ataque indireto à lógica que sustenta o Judiciário: a confiança de que decisões são fundamentadas em fontes verificáveis, rastreáveis e auditáveis.
Responsabilidade humana acima da automação
A discussão levantada pela Suprema Corte da Índia se conecta a um ponto central no debate global sobre IA: quem é responsável pelo erro? A tecnologia pode ser sofisticada, mas a responsabilidade continua humana. No contexto judicial, isso significa que juízes, advogados, servidores e até estudantes de direito que usam IA para pesquisa não podem encarar a saída do sistema como verdade automática.
Alguns cuidados que historicamente sempre foram parte da rotina jurídica ganham ainda mais peso nesse cenário:
- Conferir se as decisões citadas constam em bancos oficiais de jurisprudência;
- Verificar número de processo, data do julgamento e tribunal que proferiu a decisão;
- Ler a íntegra do precedente, e não apenas o trecho recortado pela ferramenta;
- Checar se o tribunal mencionado realmente tem competência sobre o tema tratado;
- Registrar de forma transparente, quando necessário, se houve apoio de IA na elaboração de peças ou minutas.
Sem essa checagem, a IA deixa de ser ferramenta de apoio e passa a atuar, na prática, como se fosse uma fonte primária confiável, o que ela não é. E esse atalho pode abrir espaço para distorções graves, principalmente em casos que envolvem liberdade, patrimônio ou impacto coletivo.
A preocupação com advogados usando IA e citações falsas
O episódio da juíza não é um caso isolado na visão da Suprema Corte indiana. Em outro julgamento recente, a corte criticou de forma aberta a tendência de advogados utilizarem IA para redigir petições recheadas de citações que não existem.
Segundo cobertura de veículos jurídicos locais, os ministros classificaram esse movimento como totalmente inadequado. A corte demonstrou preocupação com o aumento de petições que chegam aos tribunais com referências processuais supostamente robustas, mas que, quando checadas, se revelam fabricadas por sistemas de IA.
Ou seja, o problema não está restrito a magistrados. A cultura de copiar e colar conteúdo gerado por IA, sem verificação, também está drenando tempo dos tribunais, que precisam gastar energia conferindo se cada citação é autêntica. Isso afeta produtividade, aumenta custo e gera atrito entre a corte e os profissionais que atuam perante ela.
Não é só na Índia: tribunais do mundo todo estão em alerta
A discussão sobre IA e decisões falsas não é exclusividade da Índia. Outros países também já precisaram lidar com problemas parecidos.
Em outubro, nos Estados Unidos, dois juízes federais foram alvo de críticas depois de admitirem o uso de ferramentas de IA em processos que resultaram em decisões com informações erradas. Houve questionamentos públicos e cobertura intensa da imprensa especializada, destacando como a dependência excessiva de automação pode corroer a qualidade da prestação jurisdicional.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
No Reino Unido, a Alta Corte de Justiça da Inglaterra e País de Gales emitiu um alerta formal a advogados, recomendando que não utilizassem, sem checagem, material produzido por IA como base para citações de casos. O gatilho foram episódios em que petições traziam decisões inexistentes ou parcialmente inventadas, algo muito próximo ao que aconteceu em Andhra Pradesh.
Em resumo, os tribunais estão percebendo que, sem regras claras, a IA pode introduzir um novo tipo de risco: a aparência de autoridade sem o lastro de realidade. E, no direito, forma sem conteúdo verdadeiro é receita certa para conflito.
Como a Suprema Corte da Índia tenta organizar o uso de IA
Diante desses riscos, a Suprema Corte indiana não ficou só na crítica. Em 2023, a corte publicou um white paper sobre IA no Judiciário, com diretrizes, boas práticas e recomendações para o uso responsável de tecnologia em tribunais.
Esse documento aborda, entre outros pontos:
- Possíveis aplicações de IA em atividades de apoio, como triagem de processos e pesquisa de jurisprudência;
- A importância de supervisão humana constante em qualquer etapa em que a IA seja utilizada;
- A necessidade de manter salvaguardas institucionais firmes, evitando que decisões sejam terceirizadas para algoritmos;
- Orientações voltadas a juízes, advogados, servidores e demais operadores do direito.
A mensagem central do white paper é simples, mas poderosa: a IA pode ajudar, mas não pode decidir. A palavra final deve ser sempre de pessoas capazes de interpretar contexto, avaliar consequências e assumir responsabilidade pelo que está sendo julgado.
O caso de Vijayawada virou símbolo de um dilema que vai muito além da Índia: como usar a Inteligência Artificial nos tribunais sem abrir mão de algo essencial, que é a confiança no processo judicial e na capacidade humana de distinguir entre o que é precedente real e o que é apenas texto bem escrito por uma máquina.
Enquanto a tecnologia avança, episódios como esse funcionam como lembrete de que nenhum algoritmo substitui o dever de checar, conferir e fundamentar com base em fontes legítimas. No fim do dia, é isso que mantém de pé a credibilidade de qualquer sistema de justiça, por mais moderno e digital que ele seja.
