Após o lançamento do aplicativo Sora, da OpenAI, em setembro, especialistas em segurança digital demonstraram como suas proteções contra deepfakes podem ser facilmente burladas, reforçando a vulnerabilidade crescente dessa tecnologia.
Sora e os riscos de deepfakes personalizados
O app permite que usuários criem vídeos incluindo suas próprias imagens e as de amigos, usando uma ferramenta chamada “cameos”. Apesar da promessa de controle total sobre a própria imagem, pesquisadores do Reality Defender conseguiram contornar as salvaguardas de autenticação em apenas 24 horas, expondo os riscos de uso malicioso.
Vulnerabilidade exposta por pesquisadores
Os especialistas utilizaram vídeos públicos de figuras públicas, incluindo CEOs e celebridades, para tentar impersonar essas personalidades no sistema do Sora. Todos os testes realizados resultaram em falhas, com a equipe acreditando que “qualquer estudante de 10º ano” poderia replicar as ferramentas usadas na vulnerabilidade.
Ben Colman, CEO do Reality Defender, afirmou que “o sistema dá uma falsa sensação de segurança”, alertando que “qualquer pessoa com ferramentas acessíveis” consegue passar pelos mecanismos de autenticação do app.
Resposta da OpenAI e o alerta para o futuro
Em nota enviada à TIME, um porta-voz da OpenAI afirmou que a equipe está “trabalhando continuamente para reforçar o Sora contra usos indevidos”, mencionando que sistemas sofisticados de deepfake foram utilizados pelos pesquisadores para testar as restrições do app.
Ameaça das deepfakes na sociedade
O episódio reforça que a sociedade ainda está despreparada para lidar com a crescente sofisticação das deepfakes, cujas tecnologias de geração de áudio, vídeo e texto avançam rapidamente. Jennifer Ewbank, ex-diretora de inovação digital da CIA, destacou que “ficar atento à distinção entre conteúdo real e manipulado está se tornando quase impossível para o olho nu”.
Regulação e desafios futuros
Apesar de legislações desde 2019 abordarem o tema, a aplicação prática das regras ainda é incipiente. Em maio de 2025, foi sancionada a Take It Down Act, que exige remoção rápida de conteúdos não consensuais envolvendo menores ou adultos sem consentimento — porém, sua implementação só começa em maio de 2026.
O rápido crescimento do Sora, que atingiu 1 milhão de downloads em menos de cinco dias — mais rapidamente que o ChatGPT na época — demonstra a forte demanda por tecnologia de geração de vídeos, mas também acende o alerta para os riscos de manipulação e uso indevido.
Perspectivas de combate às deepfakes
Especialistas afirmam que o desenvolvimento de novas ferramentas de detecção e a criação de regulamentações mais rígidas são essenciais para minimizar os impactos negativos dessas tecnologias. Como observa Colman, “as plataformas sabem do problema e poderiam solucionar, mas a ausência de regulações mantém a vulnerabilidade”.
À medida que o avanço tecnológico torna os deepfakes mais convincentes, o equilíbrio entre inovação e segurança se torna cada vez mais urgente, exigindo ações coordenadas de governos, empresas e sociedade.
