Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em reunião de um comitê da Conferência Judicial dos Estados Unidos, em Boston, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da IA generativa preocupa o Judiciário americano porque pode dificultar a verificação de provas apresentadas em processos. O Comitê Consultivo sobre Regras de Provas discute desde 2023 critérios para avaliar a autenticidade e a confiabilidade de materiais suspeitos de terem sido produzidos artificialmente.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de identificar todas as falsificações. Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias reais para o público.
Apesar das previsões sobre o impacto dos deepfakes nos tribunais, os casos registrados ainda são poucos. Segundo dados do Centro Federal do Judiciário divulgados em março, 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que ela fosse falsa.
O comitê também avalia o uso de marcas-d’água e outros mecanismos de identificação. Leis recentes na Califórnia e na União Europeia exigem recursos desse tipo em determinadas situações, mas especialistas afirmam que não há um padrão universal capaz de confirmar com segurança a origem ou a autenticidade de todo conteúdo gerado por IA.
OpenAI e Meta desenvolvem ferramentas para ajudar a verificar conteúdos visuais, mas os sistemas podem apresentar limitações porque cada empresa utiliza métodos próprios. O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que os tribunais ainda não enfrentaram a quantidade de casos de deepfake prevista por estudos e análises acadêmicas.
Fonte: g1