Um vídeo no TikTok, em outubro, mostrava uma mulher sendo entrevistada por uma repórter sobre benefícios de alimentação. Na verdade, ela não existia; a conversa foi criada por inteligência artificial. Apesar do caráter fictício, muitas pessoas acreditaram na falsa entrevista, que poderia configurar um crime de fraude.
Manipulação e impacto social das deepfakes
Especialistas alertam que a chegada de ferramentas como o Sora, da OpenAI, potencializou a disseminação de vídeos enganosos. Desde a sua implementação há dois meses, conteúdos de IA têm circulado amplamente no TikTok, X, YouTube, Facebook e Instagram, acendendo o alerta para uma nova era de desinformação e falsificações sofisticadas.
Reação pública e debates políticos
Nos comentários, grande parte dos usuários reagiu como se fosse real, muitas vezes atacando programas de assistência social ou rotulando as pessoas envolvidas de forma preconceituosa, inclusive com racismo explícito. Essas reações acontecem em um momento de intensa discussão sobre cortes em benefícios do governo dos EUA, como o SNAP, evidenciando o potencial de manipulação para fins políticos e de desestabilização social.
Ferramentas de marca e combate à fake news
Para tentar controlar a disseminação de vídeos falsos, plataformas como TikTok e YouTube passaram a usar marcas-d’água visíveis, como o rótulo “Sora” ou “alterado por IA”, além de metadados invisíveis que indicam a origem do conteúdo. Segundo Jack Malon, porta-voz do YouTube, “os espectadores querem cada vez mais transparência sobre se o conteúdo que estão vendo foi alterado ou é sintético”.
No entanto, esses mecanismos ainda são suscetíveis a fraudes, pois muitas dessas marcas desaparecem após manipulações ou edição do vídeo. Diversas empresas oferecem a remoção desses sinais, dificultando a fiscalização e o reconhecimento de conteúdos fabricados por IA.
Desafios e riscos das deepfakes na política e segurança
O crescimento de vídeos ultrarrealistas tem elevado as preocupações com eleições, influências estrangeiras e manipulação de opinião pública. Dois ex-integrantes do Departamento de Estado dos EUA afirmaram que avanços em IA aumentaram as estratégias para minar democracias e dividir sociedades. Especialmente em cenários de conflito, como a guerra na Ucrânia, esses vídeos falsificados servem a campanhas de desinformação, muitas vezes com marcas-d’água adulteradas ou ocultadas por usuários maliciosos.
Segundo a empresa de monitoramento NewsGuard, vídeos com narração de IA, incluindo deepfakes envolvendo figuras públicas ou eventos atuais, viralizaram rapidamente, atingindo milhões de visualizações na internet. Como exemplo, um conteúdo que simulava uma crise na Casa Branca envolvendo Donald Trump foi visualizado por mais de 3 milhões de pessoas em poucos dias.
Limites e responsabilidades das plataformas
Embora plataformas como TikTok e YouTube estejam adotando medidas para identificar vídeos falsificados, especialistas ressaltam a insuficiência dessas ações diante do avanço tecnológico. Nabiha Syed, diretora da Mozilla Foundation, afirmou que “elas deveriam estar mais preparadas”, referindo-se às empresas responsáveis pelas ferramentas de IA. Além disso, há críticas quanto à lentidão na rotulagem de conteúdos gerados por inteligência artificial, que muitas vezes só são identificados após milhões de visualizações.
Enquanto isso, pesquisadores alertam que a facilidade de manipular vídeos e remover marcas d’água aumenta o risco de manipulação deliberada, dificultando a fiscalização e credibilidade do conteúdo na internet. Segundo relatos, milhares de vídeos criados com o Sora circulam sem a devida rotulagem ou com marcas-d’água adulteradas por usuários mal-intencionados.
Perspectivas futuras e regulamentação
As campanhas de influência estrangeira, como as da Rússia na tentativa de desmoralizar a Ucrânia, demonstram o potencial destrutivo dessas tecnologias. Especialistas indicam que, mesmo com as ações das plataformas, a batalha contra a desinformação será constante, exigindo maior fiscalização, educação digital e transparência na divulgação de conteúdos gerados por IA.
Segundo a revista Time, os arquitetos da IA foram eleitos como Personalidade do Ano, refletindo a importância e o impacto dessas tecnologias na sociedade. Contudo, o avanço também reforça a necessidade de regulamentações e ações efetivas para garantir que o público consiga discernir o real do fabricado na rede.
Para mais informações, acesse o artigo completo.
