Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da inteligência artificial generativa pode dificultar a verificação de provas apresentadas em tribunais americanos. O comitê debate desde 2023 formas de avaliar a autenticidade de materiais suspeitos de terem sido produzidos ou alterados por IA.
Segundo a reportagem acompanhada pela Reuters, Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que não há expectativa de um método científico capaz de detectar todas as falsificações no futuro.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para pessoas comuns. Ele também destacou que a criação desse material exige pouco tempo e dinheiro.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais dos Estados Unidos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos em que uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
O uso de marcas-d’água é exigido por novas leis da Califórnia e da União Europeia para ajudar a identificar conteúdos gerados ou modificados por IA. Anderson, porém, alertou que não existe um padrão universal capaz de confirmar com segurança a autenticidade de todas essas marcas, já que as empresas utilizam sistemas próprios.
Fonte: G1