Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston, nos Estados Unidos, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O alerta foi apresentado ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, que debate desde 2023 como verificar a autenticidade de materiais suspeitos de manipulação por IA e como avaliar seu uso em tribunais.
Segundo os especialistas, os avanços da IA generativa permitem criar imagens, vídeos e áudios realistas com pouco tempo e custo. A dificuldade de detecção pode afetar a análise de provas em processos judiciais, tanto por pessoas quanto por ferramentas automatizadas.
Apesar da preocupação, ainda são poucos os casos registrados nos tribunais americanos. Uma pesquisa do Centro Federal do Judiciário informou, em março, que 15 dos 931 juízes que responderam haviam enfrentado processos nos quais uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
Devin Norder, diretor de gestão de produtos da Meta, afirmou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de mídias autênticas para observadores humanos. A empresa e a OpenAI também desenvolvem ferramentas para ajudar a identificar a origem e a autenticidade de conteúdos.
Leis aprovadas na Califórnia e na União Europeia passaram a exigir marcas-d’água ou outros sinais para identificar materiais gerados por IA. A consultora de políticas da OpenAI Shira Anderson, porém, alertou que não há um método universal capaz de confirmar com segurança a autenticidade de um conteúdo ou detectar todas as marcas.
Fonte: G1