Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), durante reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da chamada inteligência artificial generativa pode dificultar a análise de provas apresentadas em processos judiciais. Segundo os especialistas, tanto pessoas quanto programas de computador enfrentam limitações para identificar materiais fabricados.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de detectá-las de forma geral. Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos.
O comitê debate desde 2023 como verificar a autenticidade de materiais suspeitos de serem deepfakes e como garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade exigidos de outras evidências. Apesar da preocupação, o número de casos registrados ainda é pequeno: em uma pesquisa do Centro Federal do Judiciário, 15 dos 931 juízes que responderam disseram ter enfrentado processos em que uma parte contestou uma prova por suspeita de falsificação.
Leis aprovadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros mecanismos para indicar conteúdos produzidos por IA. A OpenAI, porém, afirma que não há um método universal para detectar essas marcas ou confirmar com segurança a autenticidade de um material, já que as empresas utilizam sistemas diferentes.
Fonte: G1