Especialistas da OpenAI e da Meta alertaram, em reunião realizada na quinta-feira (15) em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço preocupa o sistema judicial americano porque pode dificultar a verificação de provas apresentadas em processos. O Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA discute desde 2023 como avaliar materiais suspeitos de terem sido produzidos ou alterados por IA.
Segundo os especialistas ouvidos pela Reuters, os modelos generativos mais avançados já conseguem produzir imagens, vídeos e áudios indistinguíveis de mídias reais para muitas pessoas. A criação desse material também exige relativamente pouco tempo e dinheiro.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de detectar todas as falsificações.
Apesar dos alertas, ainda são poucos os casos registrados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
Devin Norder, diretor de gestão de produtos da Meta, também afirmou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas. O juiz federal Jesse Furman, de Manhattan, que preside o comitê, disse que os tribunais ainda não registraram muitos casos desse tipo.
Além da análise humana e dos programas de detecção, empresas e governos investem em marcas-d’água, sinais incorporados aos arquivos para indicar a origem ou facilitar a identificação de conteúdos gerados por IA. Leis aprovadas na Califórnia e na União Europeia exigem o uso desse recurso em determinadas situações.
Especialistas, porém, afirmam que não há um padrão universal para verificar essas marcas ou confirmar a autenticidade de um conteúdo. Como cada empresa utiliza sistemas próprios, os mecanismos atuais ainda apresentam limitações e não são considerados à prova de falhas.
Fonte: G1