Especialistas da OpenAI e da Meta afirmaram nesta quinta-feira (15), em uma reunião em Boston, nos Estados Unidos, que vídeos e áudios produzidos por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi apresentado ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que discute desde 2023 como verificar a autenticidade de materiais suspeitos de serem deepfakes e avaliar seu uso em processos judiciais.
Shira Anderson, consultora de políticas da OpenAI, disse que as imagens geradas por IA estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de identificar todas as falsificações. Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias reais para os seres humanos.
Apesar da preocupação, os casos registrados ainda são poucos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
OpenAI e Meta desenvolvem ferramentas para ajudar a verificar a autenticidade de conteúdos visuais. Leis aprovadas na Califórnia e na União Europeia também preveem o uso de marcas d’água para indicar a origem de materiais produzidos por IA, mas especialistas afirmam que esses sistemas não são universais nem à prova de falhas.
Fonte: g1