Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi apresentado ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que há três anos debate como verificar a autenticidade de materiais suspeitos de terem sido criados ou manipulados por IA em processos judiciais.
Segundo os especialistas, os avanços da inteligência artificial generativa dificultam a identificação de falsificações tanto por pessoas quanto por programas de computador. A preocupação é que provas fabricadas possam ser apresentadas em tribunais sem que sua origem seja facilmente comprovada.
Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para os seres humanos. Ele também ressaltou que a criação desse tipo de material exige pouco tempo e dinheiro.
Apesar do risco apontado, ainda há poucos registros de contestação judicial envolvendo deepfakes nos Estados Unidos. Em uma pesquisa divulgada em março pelo Centro Federal do Judiciário, 15 dos 931 juízes que responderam disseram ter enfrentado um caso em que uma das partes questionou uma prova por suspeitar de falsificação com IA.
Leis aprovadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros sinais para ajudar a identificar conteúdos gerados artificialmente. Shira Anderson, consultora de políticas da OpenAI, alertou, porém, que não há um método universal capaz de detectar todas essas marcas ou confirmar sozinho a autenticidade de um arquivo.
Fonte: g1