A maioria dos brasileiros não consegue identificar vídeos realistas gerados por inteligência artificial (IA), conhecidos como deepfakes, apesar da alta exposição em redes sociais. A pesquisa da Veriff revela que 80% dos brasileiros já se depararam com deepfakes, superando a média internacional de 60%. No entanto, apenas 29% sabem identificar um vídeo falso e 35% reconhecem um vídeo real.
A tecnologia evolui rapidamente, tornando a distinção entre o real e o falso cada vez mais difícil. Andrea Rozenberg, diretora de mercados emergentes da Veriff, explica que os sinais anteriores de deepfakes, como dedos extras ou características distorcidas, já não são mais evidentes. Atualmente, com apenas duas fotos, é possível criar simulações realistas.
O avanço de IAs como Seedance 2.0 (ByteDance) e Nanobanana 2 (Google), lançadas em fevereiro, aumenta os desafios relacionados a fraudes e desinformação. Modelos de IA abertos facilitam o acesso por criminosos.
Ferramentas de detecção de deepfakes existentes, desenvolvidas por grandes empresas, são limitadas e funcionam apenas para as IAs de suas próprias desenvolvedoras. A esperança de um detector universal enfrenta obstáculos técnicos, pois os modelos exigem atualizações constantes e podem não reconhecer novas versões de IA.
A preocupação com a tecnologia é alta entre os brasileiros: 87% temem fraudes e golpes de identidade, e 81% preveem impacto em conteúdos políticos. Dados da Polícia Federal indicam que 42,5% das fraudes financeiras no Brasil utilizam IA, especialmente deepfakes.
No cenário político, o Tribunal Superior Eleitoral (TSE) endureceu as regras para o uso de IA em campanhas, exigindo que conteúdos manipulados por IA sejam informados. A veiculação de conteúdos sintéticos em aplicativos de mensagem, onde a fiscalização é difícil, agrava o problema.
O Brasil também se destaca na criação de conteúdos com IA, com 59% dos entrevistados afirmando já ter criado imagens ou vídeos com a tecnologia, superando EUA e Reino Unido.
Como solução, especialistas recomendam desconfiar da origem do material e verificar a procedência. Para evitar golpes financeiros, é crucial analisar a urgência da demanda e usar uma 'palavra-senha' com interlocutores em conversas sensíveis.