A OpenAI lançou recentemente o Sora, um aplicativo inovador que transforma textos em vídeos, permitindo que usuários criem conteúdo com suas próprias imagens, amigos ou até mesmo celebridades. Embora a proposta inicial parecesse ser um playground social de inteligência artificial, o lançamento do Sora gerou alarmes sobre suas implicações, especialmente no que se refere à desinformação e à criação de deepfakes.
Sora nos holofotes
O Sora rapidamente se tornou um dos aplicativos mais baixados na App Store da Apple, alcançando um milhão de downloads em tempo recorde. No entanto, especialistas preocupam-se com o potencial da plataforma para inundar a internet com desinformação histórica e representações de figuras históricas falecidas que não têm como consentir para que suas imagens sejam utilizadas. Exemplo disso são vídeos absurdos, como Aretha Franklin fazendo velas ou Marilyn Monroe ensinando vietnamita, que causa inquietação tanto entre o público quanto entre representantes legais de celebridades.
A preocupação com o consentimento
Advogados especializados, como Adam Streisand, que representa o espólio de várias figuras famosas, expressaram sua preocupação com a falta de um controle jurídico adequado que possa lidar com a geração de conteúdo por meio de inteligência artificial. “A questão não é a lei, mas sim se um processo judicial não-AI poderá lidar com essa nova realidade”, afirmou Streisand. As implicações sociais e legais da geração de conteúdo não autorizado, especialmente de pessoas já falecidas, são complexas e devem ser cuidadosamente consideradas.
Impacto nas figuras históricas e seus legados
Por trás do sucesso do Sora, há um crescente clamor de familiares de figuras históricas. Zelda Williams, filha de Robin Williams, expressou seu descontentamento com a utilização da imagem do pai em vídeos gerados pelo app. Outros, como Bernice King, filha de Martin Luther King Jr., concordaram com os pedidos para que as imagens de seus pais não sejam manipuladas.
As preocupações vão além das figuras contemporâneas, afetando o legado de ícones do passado. A capacidade de criar deepfakes realistas de líderes mundiais e personalidades históricas levanta questões sobre a integridade da história e da verdade, com preocupações sobre como essas representações podem distorcer a percepção pública e influenciar eventos sociais e políticos.
A tecnologia no centro da controvérsia
A OpenAI defende que, apesar do apelo à liberdade de expressão, as figuras públicas e suas famílias devem ter controle sobre como suas imagens são utilizadas. O CEO da OpenAI, Sam Altman, anunciou que a empresa está trabalhando para dar mais controle sobre a geração de conteúdo a esses detentores de direitos.
No entanto, especialistas apontam que as ferramentas de controle, como marcas d’água e metadados, são facilmente removíveis, o que pode permitir o uso indevido da tecnologia. “Embora haja proteção, a execução e a aplicação da lei são um desafio em constante evolução”, disse Sid Srinivasan, cientista da computação de Harvard. Essas preocupações destacam a necessidade de soluções mais robustas, envolvendo colaboração entre plataformas digitais e desenvolvedores de IA.
Possíveis consequências sociais
A criação de deepfakes realistas pode ter consequências profundas na confiança pública. De acordo com especialistas, a incapacidade de distinguir entre conteúdo real e gerado por IA pode exacerbar esquemas fraudulentos e minar a confiança em instituições tradicionais. “Veremos pessoas confiando em conteúdos duvidosos, o que pode corromper processos democráticos”, previu Liam Mayes, professor de estudos de mídia na Universidade Rice.
A luta contra a desinformação
Com a qualidade dos deepfakes melhorando rapidamente, as empresas agora utilizam inteligência artificial para detectar fraudes de maneira mais eficiente. Startups especializadas, como Reality Defender, estão desenvolvendo ferramentas que analisam vídeos e áudios para identificar má-fé. O alerta é claro: à medida que a tecnologia avança, a distinção entre o verdadeiro e o falso se tornará cada vez mais nebulosa.
Enquanto opiniões diversas sobre o Sora continuam a surgir e as discussões sobre direitos e ética ganham força, uma coisa é certa: a interseção entre IA, propriedade intelectual e a proteção do legado individual precisa ser abordada com urgência e seriedade. O futuro do entretenimento e da informação dependerá da forma como a sociedade se adapta a essas novas ferramentas e desafios.
