Atualizada para 27 de abril de 2024, a presença da IA em processos judiciais e ações policiais vem crescendo rapidamente, levando a discussões sobre sua eficácia e riscos éticos. Ela é utilizada em reconhecimento facial para identificar suspeitos, em estratégias de “policiamento preditivo” para definir rotas de patrulha, em tribunais para gerenciamento de processos e por defensores públicos na análise de provas. Apesar de prometer maior eficiência, o uso da tecnologia levanta questionamentos sobre privacidade, vieses e responsabilidade.
Desafios e preocupações no uso de IA na justiça criminal
Dentro do sistema, há um avanço gradual, muitas vezes caracterizado por iniciativas pontuais. Nathan Hecht, ex-presidente do Supremo Tribunal do Texas e líder de um grupo de estudo criado pelo Conselho de Justiça Criminal, afirma que “não há dúvidas de que a IA pode gerar resultados injustos”. Ele explica que o objetivo do grupo é reunir especialistas de diversos setores para explorar formas de usar a IA de modo benéfico, minimizando danos.
Riscos de vieses e violações de direitos
Advogados e organizações de defesa dos direitos civis alertam para o uso indiscriminado de tecnologia de reconhecimento facial, como a vendida por empresas como a Clearview, que coleta bilhões de imagens na internet. Dados mostram que comunidades negras estão desproporcionalmente representadas nesses bancos de dados e que a tecnologia apresenta maior dificuldade para distinguir diferenças faciais em pessoas negras, aumentando as taxas de erro.
No ano passado, o Innocence Project revelou pelo menos sete prisões injustas fundamentadas em reconhecimento facial, incluindo seis casos de acusados erroneamente negros. Walter Katz, diretor de políticas da organização, destaca que há uma tendência de uso excessivo da IA, muitas vezes confiando totalmente nos resultados dessas ferramentas, sem uma investigação mais aprofundada.
O futuro da inteligência artificial na justiça
Vendors de tecnologia promovem ferramentas de IA como soluções para diversos problemas policiais, sem sempre alertar para possíveis riscos. Criticados, especialistas alertam que o aumento na vigilância de espaços públicos, incluindo manifestações pacíficas, e a intensificação de ações policiais em áreas já sobrepostos podem ser consequências negativas. A criação de regras claras e a realização de estudos mais aprofundados são passos considerados essenciais para garantir que a adoção da IA seja segura e justa.
Perspectivas para uma implementação responsável
De acordo com Nathan Hecht, o esforço do grupo é promover uma integração que PRIORIZE os direitos humanos e a transparência. O reconhecimento de que “há potencial, mas também riscos altos” reforça a necessidade de diretrizes específicas e de uma participação mais ampla da sociedade na discussão sobre o uso ético da inteligência artificial na justiça.
Especialistas defendem a criação de normas e a realização de testes rigorosos antes da implementação definitiva dessas tecnologias, de modo a evitar que erros do passado se repitam e que os direitos civis sejam protegidos de maneira mais eficaz.
Meta description: Como a inteligência artificial está sendo usada na justiça e polícia, e os desafios de garantir um sistema mais justo e responsável.
