Especialistas da OpenAI e da Meta afirmaram nesta quinta-feira (15), em uma reunião em Boston, nos Estados Unidos, que vídeos e áudios produzidos por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi apresentado ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que discute como tribunais podem verificar a autenticidade de materiais suspeitos de serem deepfakes e avaliar sua confiabilidade como evidência.
Segundo os especialistas, os avanços da inteligência artificial generativa dificultam a identificação das falsificações tanto por pessoas quanto por programas de computador. Shira Anderson, consultora de políticas da OpenAI, afirmou que não acredita na existência futura de um método científico capaz de detectar todas as imagens geradas por IA.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos criados pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também ressaltou que a produção desse material exige pouco tempo e dinheiro.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais americanos. Em março, uma pesquisa do Centro Federal do Judiciário indicou que 15 dos 931 juízes que responderam haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
Na Califórnia e na União Europeia, leis recentes passaram a exigir marcas-d’água ou outros sinais para ajudar a identificar conteúdos produzidos por inteligência artificial. Anderson, porém, afirmou que não há um método universal para localizar essas marcas ou confirmar com segurança a autenticidade de um material, já que as empresas usam sistemas diferentes.
Fonte: G1