Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em Boston, nos Estados Unidos, que vídeos e áudios produzidos por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos, o que pode complicar a análise de provas em tribunais.
O alerta foi dado durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. O grupo discute desde 2023 formas de verificar a autenticidade de materiais suspeitos de terem sido criados ou alterados por IA.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por inteligência artificial estão evoluindo a ponto de não haver garantia de um método científico capaz de identificá-las no futuro. Devin Norder, diretor de gestão de produtos da Meta, disse que os modelos mais avançados já podem produzir mídias indistinguíveis das reais para observadores humanos.
Apesar da preocupação, os casos registrados nos tribunais americanos ainda são poucos. Segundo pesquisa do Centro Federal do Judiciário divulgada em março, 15 dos 931 juízes que responderam disseram ter enfrentado processos em que uma das partes contestou uma prova por suspeitar que fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que ainda não foram observados muitos casos desse tipo, embora pesquisadores e especialistas prevejam um aumento do problema.
OpenAI e Meta desenvolvem ferramentas para ajudar a verificar a autenticidade de conteúdos visuais. Na Califórnia e na União Europeia, leis recentes também passaram a exigir marcas-d’água ou outros sinais de identificação em materiais produzidos por inteligência artificial.
Segundo Anderson, porém, não existe um padrão universal capaz de confirmar a autenticidade de um conteúdo ou identificar com segurança todas as marcas usadas pelas empresas. Cada companhia adota seu próprio sistema, que também pode apresentar limitações.
Fonte: G1