Especialistas da OpenAI e da Meta afirmaram nesta quinta-feira (15), em uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da inteligência artificial generativa preocupa o sistema judiciário americano porque pode dificultar a verificação da autenticidade de provas apresentadas em processos. O comitê debate desde 2023 formas de avaliar materiais suspeitos de terem sido produzidos ou alterados por IA.
Shira Anderson, consultora de políticas da OpenAI, disse que as imagens geradas por inteligência artificial estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de detectá-las de forma universal.
Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos criados pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Segundo ele, a produção desse material também exige pouco tempo e dinheiro.
Apesar dos alertas, os casos registrados ainda são poucos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que fosse um deepfake.
Leis aprovadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros sinais de identificação em conteúdos gerados por inteligência artificial. Anderson, porém, alertou que não há um padrão universal para verificar essas marcas ou confirmar a autenticidade de um material.
Fonte: G1