Em Regresso ao Futuro 2, um filme estreado em 1989, quando Marty viaja até 2015, o tribunal é um centro comercial e o filho de Marty foi julgado e condenado a uma pena de prisão de 15 anos… em duas horas. Doc (o inventor da máquina do tempo) explica: “No futuro o sistema de Justiça funciona de forma eficiente porque aboliram todos os advogados.”

Hoje ainda existem advogados, mas em 2015 já vários estados americanos utilizavam o COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), um algoritmo que qualifica o risco de perigo de quem é acusado de um crime e sugere uma sentença ao juiz.

Não é possível saber exatamente que correlações o COMPAS realiza para sugerir a pena, pois a empresa alega que se trata de segredo comercial, mas sabe-se que foi treinado com casos passados e com um questionário de 137 perguntas realizado a presos, que inclui questões como “algum dos seus pais foi condenado a pena de prisão?”, “quantos dos seus amigos tomam drogas?”, “com que periodicidade se envolvia em lutas na escola?” e se concordam ou não com frases como “uma pessoa com fome tem direito a roubar”.

Embora o COMPAS não inclua nenhum parâmetro direto sobre a raça, vários estudos vieram demonstrar que consistentemente os arguidos negros são qualificados com risco mais elevado do que os brancos. Na verdade, não surpreende. O COMPAS foi treinado com base em casos passados, e a população prisional americana não traduz a representação demográfica. Embora os negros sejam 12% da população americana, representam 33% da população prisional. Já os brancos, 60% da população, não ultrapassam 31% dos presos. O algoritmo encontra os seus próprios padrões e faz inferências… o famoso viés.

O potencial da utilização da Inteligência Artificial nos tribunais é imenso. A tentação é grande… muito trabalho e poucos recursos. O estudo divulgado pela Anthropica sobre a utilização efetiva do modelo Claude e do respetivo potencial identifica que, do total de tarefas jurídicas, apenas é atualmente utilizado em 20%, mas tem capacidade para realizar 90%.

Naturalmente os números são de quem vende a ferramenta e para os informáticos tudo se reduz a 1 e 0, mas a lei está plena de conceitos que fazem temer como serão interpretados por uma máquina. Como determina a máquina “especial censurabilidade ou perversidade” para qualificar o homicídio? Ou “compreensível emoção violenta, compaixão, desespero” para que o homicídio se qualifique como privilegiado e como tal sujeito a uma pena mais branda? Estará limitado aos casos passados?

A questão não é esotérica. Periodicamente lemos nos jornais situações em que o advogado nas alegações ou o juiz na sentença incluiu citações e referências a acórdãos que não existem, mas que a Inteligência Artificial fabricou. Naturalmente o erro é de quem elaborou a petição sem cuidar de confirmar, mas se revemos com mais exigência o trabalho de um colega mais jovem, tendemos, cada vez mais, a baixar a guarda perante a eloquência dos LLMs (como o Claude e o ChatGPT). Não são apenas advogados e juízes. Nas últimas semanas fomos confrontados com a realidade das armas automáticas. É o LLM que seleciona alvos e conduz ataques. Está lá um humano, mas como vai este desafiar o algoritmo que reviu todas as imagens de satélite, todos os relatórios de compras de armas, todas as comunicações entre o inimigo e seus colaboradores? Como desafiar algo que se apresenta como tendo todo o conhecimento disponível?

Como manter a confiança no sistema judicial se tivermos dúvidas sobre quem analisou e decidiu: uma pessoa igual a nós ou uma máquina? A questão é de tal forma relevante que o Tribunal de Justiça da União Europeia acaba de publicar a Carta Ética da Inteligência Artificial e a Comissão Europeia para a Eficiência da Justiça já veio divulgar as diretrizes sobre a utilização de Inteligência Artificial Generativa nos tribunais. Ambos os documentos reforçam que a função jurisdicional permanece uma responsabilidade exclusiva dos juízes e que os sistemas de IA têm carácter estritamente auxiliar. Podem apoiar na análise, mas não devem condicioná-la. No entanto, não deixa de ser difícil delinear a fronteira…

Estejamos, por isso, atentos. É difícil resistir ao sedutor e eficiente canto das sereias.

Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.

© Visão