O Conselho de Supervisão da Meta, considerado uma espécie de “suprema corte” da companhia, avaliou que a empresa errou ao não remover uma publicação no Facebook com uma deepfake de Ronaldo. A imagem manipulada, veiculada por inteligência artificial, mostrava o ex-jogador fazendo propaganda de um jogo online de azar.
Identificação de manipulação gerada por IA e falhas na moderação
O vídeo, que chegou a alcançar mais de 600 mil visualizações, trazia uma fala do Ronaldo fictícia dizendo que é possível ganhar mais dinheiro com o jogo do que com profissões como professor ou motorista. Segundo o Conselho, sinais de manipulação, como falta de sincronização entre voz e lábios, evidenciam a edição por IA, além de imagens de baixa qualidade e movimentos pouco naturais.
Após denúncias de usuários e uma apelação formal, a Meta realizou uma análise automática que não identificou violação às suas políticas. A publicação permaneceu no ar por semanas, apesar de denúncias de fraudes e uso de deepfakes, incluindo vídeos manipulados de Cristiano Ronaldo e do próprio CEO da Meta, Mark Zuckerberg.
Decisão e recomendações do Conselho de Supervisão
O órgão considerou que a Meta deveria ter vetado o conteúdo em anúncios, uma vez que suas regras proíbem o uso de imagens de celebridades para enganar o público. Além disso, criticou a demora da empresa em agir, mesmo após mais de 50 denúncias de usuários.
O Conselho também destacou que a manutenção da publicação original deveria ter desencadeado uma análise automática do conteúdo orgânico, mas isso não ocorreu. Segundo o colegiado, a Meta não consegue remover rapidamente deepfakes de figuras públicas, especialmente os que simularam pessoas conhecidas para fins fraudulentos.
Sinais de manipulação e necessidade de reforço na moderação
Especialistas consultados apontaram indicadores visuais de deepfakes, como movimento facial artificial e inconsistências entre áudio e vídeo. A decisão recomenda que a Meta reforce suas políticas de moderação de conteúdos manipulados por IA, diante do risco de golpes financeiros e prejuízos aos usuários.
Impacto dos golpes com deepfakes no Brasil e no mundo
O caso evidencia lacunas na atuação da Meta em mercados como o brasileiro, onde o uso de deepfakes com figuras públicas para golpes tem aumentado. Em 2024, o Ministério do Esporte do Brasil manifestou preocupação com o uso de vídeos manipulados promovendo jogos de azar com promessas irreais de ganhos financeiros.
Reportagens anteriores mostraram que a biblioteca de anúncios da Meta continha dezenas de deepfakes de figuras públicas, incluindo Drauizio Varella, Suzana Vieira e Roberto Carlos, que geraram lucros por meio de impulsionamento pago, mesmo após denúncias.
Reações da Meta e próximos passos
A Meta afirmou que os golpes com IA cresceram em escala e complexidade nos últimos anos e que tem intensificado esforços, como o uso de reconhecimento facial, para combatê-los. Em nota, a empresa criticou as conclusões do Conselho, alegando que muitas delas são inexatas, e prometeu responder às recomendações em 60 dias, conforme o procedimento interno.
O órgão independente, criado pela própria Meta para revisar decisões, ressaltou a necessidade de reforçar a moderação de conteúdos manipulados e de aperfeiçoar seus sistemas de detecção automática. O caso reforça a urgência de ações mais eficientes contra a disseminação de deepfakes de celebridades, que representam um risco crescente na era digital.
Para mais informações, acesse esta reportagem.
