Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi apresentado ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que discute como verificar a autenticidade de materiais suspeitos de manipulação por IA e como avaliar seu uso em processos judiciais.
Segundo os participantes, os avanços da inteligência artificial generativa dificultam a identificação de falsificações tanto por pessoas quanto por programas de computador. A preocupação é que tribunais tenham cada vez mais dificuldade para determinar se uma gravação, imagem ou vídeo foi produzido artificialmente.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão evoluindo rapidamente e que pode não existir, no futuro, um método científico capaz de detectá-las de forma universal.
Devin Norder, diretor de gestão de produtos da Meta, disse que conteúdos criados pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também destacou que a produção desse material exige pouco tempo e dinheiro.
Apesar dos alertas, ainda são poucos os casos registrados nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que fosse um deepfake.
Califórnia e União Europeia aprovaram regras que exigem marcas-d’água ou outros sinais para ajudar a identificar conteúdos gerados por inteligência artificial. Anderson, porém, afirmou que não há um padrão universal para confirmar a autenticidade dessas marcas, já que as empresas utilizam sistemas próprios.
Fonte: G1