Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em reunião de um comitê da Conferência Judicial dos Estados Unidos, em Boston, que vídeos e áudios produzidos por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da inteligência artificial generativa pode dificultar a análise de provas apresentadas em processos judiciais. Segundo os especialistas, tanto pessoas quanto ferramentas automatizadas enfrentam limitações para identificar falsificações produzidas pelos modelos mais avançados.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que não acredita na existência futura de um método científico capaz de detectar todas as falsificações.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também ressaltou que a criação desse material exige pouco tempo e recursos.
O Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA discute desde 2023 como verificar a autenticidade de materiais suspeitos de terem sido gerados por IA e como aplicar a eles os mesmos critérios de confiabilidade exigidos de outras provas.
Apesar da preocupação, os registros de casos desse tipo ainda são limitados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeita de que fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que tribunais ainda não registraram muitos casos desse tipo, embora pesquisadores e especialistas prevejam um aumento do problema.
OpenAI e Meta também desenvolvem ferramentas para ajudar a verificar a autenticidade de conteúdos visuais. Na Califórnia e na União Europeia, regras recentes passaram a exigir mecanismos como marcas-d’água para indicar a origem ou auxiliar na identificação de materiais gerados por IA.
Anderson, porém, advertiu que não existe um método universal para identificar com segurança todas as marcas-d’água ou confirmar a autenticidade de um conteúdo. Como as empresas utilizam sistemas próprios, a verificação continua sujeita a limitações.
Fonte: G1