Especialistas da OpenAI e da Meta afirmaram nesta quinta-feira (15), em uma reunião em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi feito ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que discute desde 2023 como verificar a autenticidade de materiais suspeitos de terem sido produzidos por IA e como avaliar sua validade em processos judiciais.
Shira Anderson, consultora de políticas da OpenAI, disse que as imagens geradas por inteligência artificial estão avançando rapidamente e que pode não existir, no futuro, um método científico capaz de identificar todas as falsificações.
Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Segundo ele, a criação desse material também exige pouco tempo e dinheiro.
Apesar das previsões sobre o impacto dos deepfakes na Justiça, ainda são poucos os casos registrados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos em que uma das partes contestou uma prova por suspeitar que ela fosse falsificada por IA.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que os tribunais ainda não registraram muitos casos desse tipo, embora especialistas da academia, do governo e da indústria considerem o risco crescente.
OpenAI e Meta também desenvolvem ferramentas para auxiliar na identificação da origem e da autenticidade de conteúdos visuais. Na Califórnia e na União Europeia, leis recentes passaram a exigir marcas-d’água ou outros sinais incorporados a materiais produzidos por inteligência artificial.
Anderson alertou, porém, que não há um padrão universal capaz de detectar todas essas marcas ou confirmar de forma definitiva a autenticidade de um conteúdo. Como as empresas utilizam sistemas próprios, a verificação continua sujeita a limitações.
Fonte: G1