Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi feito durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que discute há três anos como verificar a autenticidade de materiais produzidos ou manipulados por IA em processos judiciais.
Segundo os especialistas, o avanço da inteligência artificial generativa pode dificultar a análise de provas nos tribunais. Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos criados pelos modelos mais avançados já podem ser indistinguíveis de mídias reais para as pessoas e que sua produção exige pouco tempo e dinheiro.
Shira Anderson, consultora de políticas da OpenAI, disse que as imagens geradas por IA estão evoluindo rapidamente e avaliou que não deverá existir um método científico capaz de detectar todas as falsificações no futuro.
Apesar da preocupação, os registros de casos envolvendo suspeitas de deepfake ainda são limitados na Justiça americana. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar de falsificação feita com inteligência artificial.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que ainda foram observados poucos casos concretos, embora especialistas acadêmicos, governamentais e da indústria prevejam um aumento do problema.
Leis adotadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros sinais para ajudar a identificar conteúdos gerados por IA. A OpenAI, porém, afirma que não há um padrão universal para detectar essas marcas ou confirmar com segurança a autenticidade de um material, já que cada empresa utiliza sistemas próprios.
Fonte: G1