Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço preocupa o sistema judiciário americano porque pode dificultar a verificação de provas apresentadas em processos. O Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA discute desde 2023 como avaliar a autenticidade de materiais suspeitos de terem sido produzidos ou alterados por IA.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por inteligência artificial estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de detectar todas as falsificações.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos criados pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para as pessoas. Segundo ele, a produção desse material exige pouco tempo e dinheiro.
Apesar dos alertas, ainda são poucos os casos registrados nos tribunais dos Estados Unidos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa já haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que há muitas previsões acadêmicas sobre o impacto dos deepfakes nos tribunais, mas que até agora foram identificados poucos casos concretos.
OpenAI e Meta desenvolvem ferramentas para ajudar a verificar a autenticidade de imagens e outros conteúdos. Leis aprovadas na Califórnia e na União Europeia também exigem o uso de marcas-d’água ou outros sinais de identificação em determinados materiais gerados por inteligência artificial.
Anderson, porém, advertiu que não há um método universal para identificar com segurança todas as marcas-d’água ou confirmar a autenticidade de um conteúdo. Como as empresas usam sistemas diferentes, a verificação ainda apresenta limitações.
Fonte: g1