Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), durante reunião em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O encontro foi realizado pelo Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que há três anos discute como verificar a autenticidade de materiais suspeitos de terem sido produzidos ou manipulados por IA em processos judiciais.
Segundo os especialistas, os modelos mais avançados de inteligência artificial generativa já conseguem produzir imagens, vídeos e áudios indistinguíveis de materiais reais para muitas pessoas. A facilidade e o baixo custo de criação também podem ampliar o risco de provas fabricadas chegarem aos tribunais.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de detectá-las com segurança em todos os casos.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos sistemas mais avançados já podem ser indistinguíveis de mídias autênticas para seres humanos. OpenAI e Meta desenvolvem ferramentas para ajudar a verificar a origem e a autenticidade de conteúdos visuais.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que o risco é discutido amplamente por pesquisadores, mas que os tribunais ainda registraram poucos casos concretos. A comissão analisa como submeter provas produzidas com IA aos mesmos critérios de confiabilidade aplicados a outras evidências.
Leis aprovadas na Califórnia e na União Europeia determinam o uso de marcas-d’água ou outros sinais para indicar conteúdos gerados ou alterados por inteligência artificial. Anderson alertou, porém, que não há um padrão universal para identificar essas marcas ou confirmar a autenticidade de um arquivo, já que cada empresa pode adotar seu próprio sistema.
Fonte: G1