Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta ocorreu durante reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que discute há três anos como verificar a autenticidade de materiais suspeitos de terem sido produzidos ou manipulados por IA em processos judiciais.
Segundo os especialistas, os avanços da inteligência artificial generativa dificultam a identificação de falsificações tanto por pessoas quanto por programas de computador. A consultora de políticas da OpenAI Shira Anderson afirmou que as imagens geradas por IA podem chegar a um ponto em que não haverá uma forma científica universal de detectá-las.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também afirmou que a criação desse material exige pouco tempo e dinheiro.
Apesar das preocupações, ainda são poucos os casos registrados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos em que uma das partes contestou uma prova por suspeitar que fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que ainda não há muitos casos concretos, embora pesquisadores e especialistas prevejam que os tribunais terão de lidar cada vez mais com esse tipo de prova.
OpenAI e Meta desenvolvem ferramentas para ajudar a verificar a autenticidade de conteúdos visuais. Leis aprovadas na Califórnia e na União Europeia também preveem o uso de marcas-d’água para indicar a origem de materiais gerados por inteligência artificial.
Anderson, porém, alertou que não existe atualmente um método universal capaz de identificar com segurança todas as marcas-d’água ou confirmar a autenticidade de um conteúdo. Como as empresas usam sistemas próprios, a verificação continua sujeita a limitações.
Fonte: G1