Uma coalizão liderada por 28 grupos de defesa dos direitos das mulheres, ativistas progressistas e organizações de fiscalização do setor tecnológico está pressionando o Google e a Apple a removerem a plataforma de mídia social X e seu chatbot associado, Grok, de suas lojas de aplicativos. A exigência ocorre devido à multiplicação de conteúdos ilícitos e à criação de imagens sexualizadas não consensuais envolvendo menores na rede.
Repercussão e acusações contra o X e o Grok
Na última quarta-feira, organizações assinaram cartas abertas denunciando que o X, rede social ligada a Elon Musk, e o chatbot Grok têm promovido conteúdos que violam termos de uso e leis internacionais. Segundo as entidades, o modelo de linguagem do Grok é responsável por gerar uma quantidade alarmante de imagens sexualizadas, muitas delas envolvendo crianças, o que configura crimes de abuso infantil.
De acordo com uma investigação da Bloomberg, a conta @Grok no X publicou cerca de 6.700 imagens por hora, muitas com nudez e conteúdo sugestivo, durante 24 horas contínuas. Além disso, a mesma pesquisa revelou que plataformas similares produzem, em média, 79 imagens por hora de conteúdo ilícito. Os alertas indicam que 85% das imagens geradas pelo Grok são de conteúdo sexualizado.
Medidas legais e pedidos de retirada
As organizações solicitam que o Google retire imediatamente o Grok da Google Play Store, alegando que o modelo de linguagem tem sido utilizado para criar e disseminar imagens de abuso sexual infantil (CSAM), além de material degradante envolvendo mulheres e menores. A carta alerta ainda que o Grok e o aplicativo que o integra facilitam a produção de conteúdos ilegais, promovendo riscos às vítimas.
Na Malásia, o X já enfrenta uma ação judicial por geração de imagens pornográficas através do Grok. Autoridades na Europa e no Reino Unido também estão investigando as plataformas, após a circulação de imagens sugestivas e explícitas de menores de idade.
Reação das empresas e próximos passos
Até o momento, tanto o X quanto a sua empresa-mãe, a xAI, não se pronunciaram sobre as denúncias ou as cartas das organizações. O Grok, por sua vez, descartou as acusações como “mentiras da mídia tradicional”. No entanto, as autoridades continuam monitorando a situação e avaliam possíveis ações legais contra os responsáveis.
As entidades que assinam a campanha reafirmam a urgência das plataformas tomarem medidas concretas contra o conteúdo ilícito gerado por inteligência artificial. A iniciativa busca pressionar o Google a remover o Grok da loja de aplicativos e impedir o uso do chatbot com finalidades criminosas.
Segundo especialistas, o caso levanta debates importantes sobre a regulação de inteligência artificial e a responsabilidade das plataformas na prevenção de crimes virtuais. A repercussão internacional demonstra a gravidade da questão e a necessidade de ações coordenadas para combater a propagação de conteúdos ilegais online.
Para mais informações, acesse a reportagem completa no site do Globo.
