Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da chamada IA generativa pode complicar a verificação de provas apresentadas em tribunais americanos. Segundo os especialistas, tanto pessoas quanto programas de computador enfrentam limitações para identificar materiais produzidos artificialmente.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que não acredita na existência futura de um método científico capaz de detectar todas as falsificações.
O comitê discute desde 2023 como verificar a autenticidade de materiais suspeitos de manipulação e como garantir que provas produzidas com IA cumpram os mesmos critérios de confiabilidade aplicados a outras evidências.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais dos Estados Unidos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeita de que ela fosse um deepfake.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também ressaltou que a produção desse material exige pouco tempo e dinheiro.
Leis aprovadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros mecanismos para indicar a origem de conteúdos gerados por IA. Anderson, porém, alertou que não há um sistema universal capaz de identificar todas essas marcas ou confirmar com segurança a autenticidade de um material.
Fonte: G1