Especialistas da OpenAI e da Meta alertaram em uma reunião realizada em Boston, nos Estados Unidos, na quinta-feira (15), que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi apresentado ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que discute desde 2023 como verificar a autenticidade de materiais suspeitos de terem sido produzidos por IA em processos judiciais.
Segundo os especialistas, os avanços da inteligência artificial generativa dificultam a identificação de falsificações tanto por pessoas quanto por programas de computador. A consultora de políticas da OpenAI Shira Anderson afirmou que as imagens geradas por IA estão evoluindo rapidamente e que não há garantia de um método científico capaz de detectá-las no futuro.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também ressaltou que a produção desse material exige pouco tempo e dinheiro.
Apesar da preocupação, os casos registrados nos tribunais americanos ainda são poucos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que há previsões acadêmicas sobre o impacto dos deepfakes nos tribunais, mas que ainda foram registrados poucos casos concretos.
OpenAI e Meta também desenvolvem ferramentas para ajudar a verificar a autenticidade de conteúdos visuais. Leis aprovadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros sinais para indicar a origem de materiais produzidos por inteligência artificial.
Anderson alertou, porém, que não existe um método universal para identificar com segurança todas as marcas ou confirmar a autenticidade de um conteúdo. Como as empresas utilizam sistemas próprios, a verificação permanece sujeita a limitações.
Fonte: G1