Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em Boston, nos Estados Unidos, que vídeos e áudios produzidos por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos, o que pode complicar a análise de provas em processos judiciais.
O alerta foi apresentado durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA. O grupo debate desde 2023 formas de verificar a autenticidade de materiais suspeitos de terem sido fabricados ou alterados por IA.
Segundo os especialistas, os modelos mais avançados de inteligência artificial generativa conseguem produzir imagens, vídeos e gravações com qualidade suficiente para enganar tanto pessoas quanto sistemas automatizados de detecção.
Devin Norder, diretor de gestão de produtos da Meta, afirmou que alguns conteúdos gerados por esses modelos já podem ser indistinguíveis de mídias autênticas para observadores humanos. Ele também destacou que a produção desse material exige pouco tempo e recursos financeiros.
Apesar da preocupação, os tribunais americanos ainda registraram poucos casos em que provas foram contestadas por suspeita de deepfake. Uma pesquisa do Centro Federal do Judiciário divulgada em março apontou que 15 dos 931 juízes que responderam haviam enfrentado situação desse tipo.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que ainda há poucos processos concretos envolvendo deepfakes, embora pesquisadores e especialistas prevejam que o problema deverá crescer nos tribunais.
Leis aprovadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros sinais para indicar conteúdos produzidos por inteligência artificial. Shira Anderson, consultora de políticas da OpenAI, advertiu, porém, que não existe atualmente um método universal capaz de identificar todas essas marcas ou confirmar sozinho a autenticidade de um arquivo.
Fonte: G1