Três adolescentes do Tennessee entraram com uma ação judicial federal contra a xAI, empresa de inteligência artificial de Elon Musk. O processo alega que o chatbot Grok gerou imagens pornográficas a partir de fotos reais das jovens. A ação, registrada em San José, Califórnia, pode envolver mais de mil vítimas menores de idade. Um indivíduo já foi detido por usar o Grok para transformar fotos de redes sociais em conteúdo sexualizado. As imagens foram compartilhadas online antes de migrarem para a dark web. As advogadas das jovens argumentam que a xAI lucra com a geração de conteúdo explícito sem medidas de segurança adequadas. A ação cita leis federais contra exploração sexual infantil e tráfico de pessoas. O caso levanta questões sobre a responsabilidade de empresas de IA por conteúdos gerados por suas ferramentas, especialmente envolvendo menores.
Um estudo do Center for Countering Digital Hate indicou que o Grok gerou milhões de imagens sexualizadas em poucos dias, incluindo milhares envolvendo menores. Em resposta à pressão, a xAI anunciou restrições ao uso do sistema em janeiro, limitando a geração de imagens a assinantes pagos e bloqueando conteúdos sexualizados em regiões onde são ilegais. Elon Musk, por outro lado, tem criticado regulamentações que possam limitar a liberdade de expressão.