Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da inteligência artificial generativa pode dificultar a verificação de provas apresentadas em julgamentos. O comitê discute desde 2023 como confirmar a autenticidade de materiais suspeitos e aplicar a eles os mesmos critérios de confiabilidade exigidos de outras evidências.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens produzidas por inteligência artificial estão evoluindo rapidamente e que não acredita na existência futura de um método científico capaz de detectar todas as falsificações.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos gerados pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para as pessoas. Segundo ele, a produção desse material também exige pouco tempo e dinheiro.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
O juiz federal Jesse Furman, de Manhattan, que preside o comitê, afirmou que há muitos estudos prevendo o aumento desse tipo de problema, mas que os tribunais ainda não registraram um volume elevado de casos.
Califórnia e União Europeia aprovaram regras que exigem marcas-d’água em determinados conteúdos criados por inteligência artificial. Esses sinais podem indicar a origem do material ou auxiliar na identificação, mas Anderson alertou que não existe um sistema universal capaz de confirmar com segurança todas as marcas ou a autenticidade de um conteúdo.
Fonte: G1