Especialistas da OpenAI e da Meta alertaram em 15 de outubro, durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de diferenciar de conteúdos autênticos.
O avanço da inteligência artificial generativa preocupa o sistema judiciário americano porque pode dificultar a verificação de provas apresentadas em processos. O comitê discute desde 2023 formas de avaliar a autenticidade de materiais suspeitos de terem sido produzidos ou manipulados por IA.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que talvez não exista, no futuro, um método científico capaz de detectá-las com segurança em todos os casos.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos criados pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para as pessoas. Segundo ele, a produção desse material também exige pouco tempo e dinheiro.
Apesar da preocupação, os registros de disputas judiciais envolvendo deepfakes ainda são limitados nos Estados Unidos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma parte contestou uma prova por suspeitar de falsificação com IA.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que ainda foram observados poucos casos concretos, embora especialistas prevejam que os tribunais terão de lidar cada vez mais com esse tipo de material.
OpenAI e Meta desenvolvem ferramentas para ajudar a verificar a autenticidade de conteúdos visuais. Na Califórnia e na União Europeia, leis também passaram a exigir marcas-d’água ou outros sinais que indiquem a origem de materiais gerados por inteligência artificial.
Anderson, porém, alertou que não há um método universal para identificar todas as marcas ou confirmar a autenticidade de um conteúdo. Como as empresas usam sistemas próprios, a verificação continua sujeita a limitações.
Fonte: G1