Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O debate foi realizado pelo Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, que analisa há três anos como verificar a autenticidade de materiais suspeitos de serem deepfakes e como avaliar seu uso em processos judiciais.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por inteligência artificial estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de detectá-las de forma universal.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para as pessoas. Segundo ele, a criação desse material também exige pouco tempo e dinheiro.
Apesar da preocupação, os registros de casos envolvendo suspeitas de deepfake ainda são limitados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar de falsificação.
Leis aprovadas na Califórnia e na União Europeia exigem o uso de marcas-d’água para ajudar a identificar conteúdos produzidos por inteligência artificial. Anderson, porém, afirmou que os sistemas variam entre as empresas e não oferecem uma forma universal ou à prova de falhas para confirmar a origem ou a autenticidade de uma imagem.
Fonte: G1