Especialistas da OpenAI e da Meta afirmaram nesta quinta-feira (15), em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos. O alerta foi feito durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA.
O avanço da inteligência artificial generativa pode dificultar a análise de provas apresentadas em processos judiciais. Segundo os especialistas, os modelos mais recentes conseguem produzir imagens, vídeos e áudios indistinguíveis de materiais reais para muitas pessoas, com baixo custo e em pouco tempo.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que não deve existir, no futuro, um método científico capaz de detectar todos os conteúdos falsificados com segurança.
O comitê discute desde 2023 como verificar a autenticidade de materiais suspeitos de manipulação e como aplicar às provas geradas ou alteradas por IA os mesmos critérios de confiabilidade exigidos de outras evidências. O juiz federal Jesse Furman, de Manhattan, que preside o grupo, observou que ainda são poucos os casos registrados nos tribunais americanos.
Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos em que uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
Devin Norder, diretor de gestão de produtos da Meta, também apontou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas. OpenAI e Meta desenvolvem ferramentas para ajudar a verificar a origem e a autenticidade de conteúdos digitais.
Leis da Califórnia e da União Europeia passaram a exigir marcas d’água ou mecanismos semelhantes em determinados conteúdos gerados por IA. A OpenAI, porém, afirma que não há um padrão universal para identificar essas marcas ou confirmar a autenticidade de todo material visual.
Fonte: G1