Três adolescentes entraram com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial de Elon Musk. Elas acusam o chatbot da companhia de gerar imagens pornográficas a partir de fotos reais das jovens. A ação foi anunciada nesta segunda-feira por advogadas das vítimas.
O caso está ligado à proliferação de deepfakes de mulheres e crianças nuas no fim do ano passado. Essas imagens, que circularam em redes sociais, geraram indignação mundial e levaram a investigações em diversos países e na Califórnia.
O processo detalha como um indivíduo, já detido, utilizou o chatbot Grok para transformar fotos das adolescentes, obtidas em redes sociais, em imagens sexualizadas e hiper-realistas. As montagens foram compartilhadas no X, Discord e Telegram, e posteriormente migraram para a dark web como moeda de troca para outros conteúdos de exploração infantil, conforme aponta a ação movida em um tribunal federal de San José.
"Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível", relatou a mãe de uma das adolescentes em um comunicado. Uma das autoras da ação sofre com pesadelos recorrentes, enquanto outra necessita de medicação para dormir e teme comparecer à sua própria formatura.
As advogadas afirmam que a xAI "projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos", sem implementar proteções contra pornografia infantil, diferentemente de outras grandes empresas de IA. Um estudo do Center for Countering Digital Hate (CCDH) indicou que o Grok gerou aproximadamente 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, sendo 23 mil delas de menores de idade. Em resposta, a xAI restringiu a geração de imagens pelo Grok apenas a assinantes em janeiro.