Especialistas da OpenAI e da Meta afirmaram nesta quinta-feira (15), durante reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da IA generativa pode dificultar a análise de provas apresentadas em julgamentos. Segundo os especialistas, os materiais produzidos pelos modelos mais avançados já podem parecer reais tanto para pessoas quanto para sistemas automatizados de detecção.
O comitê discute desde 2023 formas de verificar a autenticidade de conteúdos suspeitos de manipulação e de garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade aplicados a outras evidências.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos criados pelos modelos mais avançados podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também disse que a produção desse material exige pouco tempo e dinheiro.
Shira Anderson, consultora de políticas da OpenAI, avaliou que as imagens geradas por IA continuarão evoluindo e que não deve existir um método científico capaz de detectar todas as falsificações com segurança.
Leis aprovadas na Califórnia e na União Europeia exigem o uso de marcas-d’água para ajudar a identificar conteúdos gerados ou alterados por IA. Anderson alertou, porém, que não há um padrão universal para verificar essas marcas ou confirmar a autenticidade de um material, já que cada empresa utiliza sistemas próprios.
Fonte: G1