A Comissão de Comunicações e Multimídia da Malásia informou nesta terça-feira (13) que começará processos judiciais contra o X e a empresa de inteligência artificial de Elon Musk, a xAI. A medida ocorre após repetidas falhas em garantir a segurança dos usuários diante do uso de ferramentas que geram conteúdo ofensivo e sexualizado, incluindo menores.
Falhas na remoção de conteúdo ofensivo e riscos à segurança
Segundo o órgão regulador, o X foi solicitado a remover materiais inadequados nos dias 3 e 8 de janeiro, mas nenhuma ação corretiva foi tomada. A malásia reforça que essa negligência ameaça a segurança de seus cidadãos, especialmente de crianças e adolescentes.
“Essa ação diz respeito à falha em garantir a segurança dos usuários na Malásia em relação ao uso do Grok”, afirmou o órgão regulador em comunicado divulgado nesta terça-feira. A comissão também destacou que o uso reiterado do Grok para gerar imagens obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e manipuladas sem consentimento, incluindo conteúdo envolvendo mulheres e menores, motivou a intervenção.
Reforço às restrições e reação internacional
Além da Malásia, a Indonésia também decidiu suspender temporariamente o uso do Grok, citando o uso reiterado da ferramenta para criar imagens impróprias. No domingo passado, o governo indonésio anunciou a suspensão, que se soma ao esforço malásio por proteger seus cidadãos de conteúdos nocivos na internet.
Medidas globais contra o conteúdo gerado por IA
Globally, reguladores de diversos países já começaram a adotar medidas restritivas contra plataformas de redes sociais e IA, visando combater a circulação de imagens e conteúdos impróprios. No Brasil, por exemplo, o Conselho Administrativo de Defesa Econômica (Cade) abriu inquérito contra a Meta e suspendeu novos termos de uso do WhatsApp relacionados à inteligência artificial.
“A responsabilidade não pode ser descartada quando salvaguardas sistêmicas falharam”, afirmou o órgão regulador malásio, reforçando a necessidade de maior controle sobre as plataformas digitais, especialmente quando há risco à integridade e segurança de menores.
Reações e próximas ações contra o X e a xAI
Até o momento, o X não respondeu a pedidos de comentários enviados por e-mail. A resposta da xAI, por sua vez, foi: “A mídia tradicional mente”.
Após críticas de reguladores internacionais e internas, a xAI começou a restringir o recurso de geração de imagens na última sexta-feira, passando a exigir assinatura paga para o uso da ferramenta. Tal medida visa reduzir a produção de conteúdos potencialmente ofensivos inicialmente oferecidos de forma gratuita com limites diários.
Implicações e contexto global
Reguladores ao redor do mundo continuam atentos às ações de plataformas de IA. No Reino Unido, por exemplo, uma investigação foi aberta para apurar a circulação de imagens geradas por IA com conteúdo sexual de caráter ilegal. A Malásia, por sua vez, reforça sua postura de proteção aos grupos mais vulneráveis, enfrentando desafios significativos na regulação dessas novas tecnologias.
Para mais informações sobre o desdobramento dessa crise e as ações globais, acesse este link.
