(*) Gisele Leite
A inteligência artificial ou IA nos obriga a refletir sobre os benefícios e os riscos. Sem dúvida, é o maior evento da história da humanidade, que infelizmente se desumaniza a passos mágicos e largos. Em nosso país o debate ainda é incipiente, mas nos países onde a utilização já é preditiva já se pode antever resultados tais como comportamentos criminosos e até condenações criminais.
Há farto manancial de pesquisas que apontam os erros judiciais com lastro fatídico contra os direitos humanos. A utilização indiscriminada de IA pode ser um sério risco para o Judiciário. Deve haver um equilíbrio que majore os benefícios e mitigue os riscos ou prejuízos.
Alguns defendem que o uso de IA poderá facilitar o acesso à justiça, principalmente na dinâmica dos trâmites processuais. Na execução penal o uso de IA poderá ser eficiente na gestão de presos, além de indicar o preenchimento de requisitos para a progressão de regime e concessão de livramento condicional, dentre outros benefícios. Por outro viés, também poderá acarretar grande violação de direitos de forma imperceptível e desigual.
A IA poderá acentuar os erros judiciais, as condenações indevidas, e ainda perpetuar discriminações… além da responsabilização das máquinas ser um paradoxal contemporâneo e insolúvel.
Segundo o Ministro Luís Roberto Barroso, nossos tribunais já usam a inteligência artificial no agrupamento de processos por tipo ou ainda no enquadramento de casos em teses de repercussão geral. É temível pois, poderá no futuro, exarar sentenças, reproduzir preconceitos até porque seja nutrida por seres humanos, numa sociedade desigual e plural…
Em setembro desse ano, o CNJ – Conselho Nacional de Justiça – promoveu audiência pública justamente para discutir o uso de inteligência artificial pelo Judiciário. Debateu-se a Resolução 332/2020 que traçou limites éticos indispensáveis para o uso de tais ferramentas na seara dos processos judiciais. Alerto que não apenas na área criminal, mas especialmente, na área do direito de família.
O atual artigo 23 da Resolução 332 do CNJ dispõe que “a utilização de modelos de inteligência artificial em matéria penal não deve ser estimulada, sobretudo com relação à sugestão de modelos de decisões preditivas”.
Há na resolução atual, portanto, uma legítima preocupação de se delegar à IA análises valorativas de provas e circunstâncias fáticas de um processo, rechaçando a possibilidade de decisões que possam tentar prever eventos futuros. Tal cautela é necessária e deve ser reproduzida em sua proposta de atualização, para se evitar erros judiciais na área criminal.
Os algoritmos utilizados nas tecnologias de IA não se desenvolvem sozinhos, não são auto gestados. São alimentados por pessoas e servem como um manual, como uma espécie de instrução ou guia para o seu funcionamento.
Enfim, lembremos que os algoritmos perpetuam a visão de seus criadores, o que é problemática na área criminal e poderá reforçar discriminações e até produzir fatais efeitos. Há milhões de detalhes perniciosos e até intragáveis para se acreditar que a Inteligência Artificial é a panaceia para todos os males.
Muitos países utilizam as tecnologias preditivas capazes de influenciar decisões sobre prisões, é o caso do Reino Unido que adota desde 2001, o Oasys (Offender Assessement System) e os EUA que usam o Compas (Correctional Offender Management Profiling for Alternative Sanctions). Atualmente, tais países procuram através da mesma tecnologia prever o risco da reincidência com base nas informações biográficas do apenado.
Nesse sentido, o Compass atribuiu aos negros alta probabilidade de reincidência, ao mesmo tempo que enxergou baixo risco para pessoas brancas. Explica-se, pois, o sistema apenas reproduz o preconceito racial já existente no próprio sistema penal e de execução penal norte-americano que, nesse sentido, não se diferencia do nosso.
Analisando os dados de dezembro do ano passado divulgados pelo CNJ há uma população de seiscentos e quarenta e quatro mil presos, onde mais de quatrocentos mil são pretos ou pardos. O que é resultante de longa história de marginalização e racismo estrutural.
Por essa razão, o CNJ menciona que as soluções de inteligência artificial devem ser auditadas sob as perspectivas de segurança da informação e, da prevenção de vieses e dedica um capítulo para a regulamentação da necessária auditoria.
De toda sorte, cogitar no uso de IA no Judiciário sem claras normas com transparência algorítmica será tão arriscado quanto admitir que as decisões sem fundamentação devida prosperem.
A Justiça automatizada poderá perpetuar crassos enganos e proféticas sentenças.
Referência:
FERNANDES, Maíra. Inteligência artificial e Poder Judiciário: riscos e benefícios de um debate inevitável. Disponível em: https://www.conjur.com.br/2024-out-23/inteligencia-artificial-e-poder-judiciario-riscos-e-beneficios-de-um-debate-inevitavel/ Acesso em 25.10.2024.
(*) Gisele Leite – Mestre e Doutora em Direito, é professora universitária.
As informações e opiniões contidas no texto são de responsabilidade exclusiva do autor, não refletindo obrigatoriamente o pensamento e a linha editorial deste site de notícias.
Se você chegou até aqui é porque tem interesse em jornalismo profissional, responsável e independente. Assim é o jornalismo do UCHO.INFO, que nos últimos 20 anos teve participação importante em momentos decisivos do País. Não temos preferência política ou partidária, apenas um compromisso inviolável com a ética e a verdade dos fatos. Nossas análises políticas, que compõem as matérias jornalísticas, são balizadas e certeiras. Isso é fruto da experiência de décadas do nosso editor em jornalismo político e investigativo. Além disso, nosso time de articulistas é de primeiríssima qualidade. Para seguir adiante e continuar defendendo a democracia, os direitos do cidadão e ajudando o Brasil a mudar, o UCHO.INFO precisa da sua contribuição mensal. Desse modo conseguiremos manter a independência e melhorar cada vez mais a qualidade de um jornalismo que conquistou a confiança e o respeito de muitos. Clique e contribua agora através do PayPal. É rápido e seguro! Nós, do UCHO.INFO, agradecemos por seu apoio.
