Especialistas da OpenAI e da Meta afirmaram nesta quinta-feira (15), em uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço preocupa o Judiciário americano porque pode dificultar a verificação de provas apresentadas em processos. O comitê debate desde 2023 formas de avaliar a autenticidade de materiais suspeitos de terem sido produzidos ou alterados por inteligência artificial.
Segundo os especialistas, os modelos mais avançados de IA generativa conseguem criar imagens, vídeos e áudios convincentes com pouco tempo e baixo custo. Devin Norder, diretor de gestão de produtos da Meta, afirmou que alguns conteúdos já podem ser indistinguíveis de mídias reais para observadores humanos.
Shira Anderson, consultora de políticas da OpenAI, disse que as imagens geradas por IA estão melhorando rapidamente e que não acredita na existência futura de um método científico capaz de detectar todas as falsificações.
Apesar da preocupação, casos desse tipo ainda são pouco frequentes nos tribunais dos Estados Unidos. Uma pesquisa divulgada em março pelo Centro Federal do Judiciário apontou que 15 dos 931 juízes que responderam haviam enfrentado processos em que uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que ainda há poucos casos concretos, embora pesquisadores e especialistas prevejam um aumento do problema.
Medidas adotadas na Califórnia e na União Europeia exigem marcas-d’água ou outros sinais para ajudar a identificar conteúdos produzidos por IA. A OpenAI, porém, afirma que não existe um método universal para detectar com segurança todas essas marcas ou confirmar a autenticidade de um material, já que as empresas usam sistemas diferentes.
Fonte: G1