Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da chamada IA generativa preocupa o Judiciário americano porque pode dificultar a verificação de provas apresentadas em processos. O comitê debate desde 2023 formas de avaliar a autenticidade de materiais suspeitos e de assegurar que evidências produzidas com IA atendam aos critérios de confiabilidade exigidos nos tribunais.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que pode não existir, no futuro, uma forma científica capaz de identificá-las com segurança em todos os casos. Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para as pessoas.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais dos Estados Unidos. Segundo dados divulgados em março pelo Centro Federal do Judiciário, 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos em que uma das partes contestou uma prova por suspeitar que fosse um deepfake.
O comitê também analisa o uso de marcas-d’água digitais, exigidas por novas leis na Califórnia e na União Europeia para ajudar a indicar a origem de conteúdos gerados por IA. Anderson, porém, alertou que os sistemas variam entre as empresas e não há um método universal à prova de falhas para confirmar a autenticidade de um arquivo.
Fonte: G1