A União Europeia está examinando de forma “muito séria” o Grok, chatbot de Elon Musk, após o sistema gerar imagens sexualizadas de pessoas, inclusive menores de idade, na plataforma de mídia social X. A preocupação dos reguladores veio à tona após o lançamento de uma configuração do Grok, que permite conteúdo sugestivo, incluindo imagens de aparência infantil.
Reação dos reguladores e medidas adotadas
O porta-voz da Comissão Europeia, Thomas Regnier, afirmou em entrevista coletiva nesta segunda-feira que as ações do Grok representam uma ilegalidade. “Isso não é picante. Isso é ilegal”, ressaltou. Reguladores de diversos países, incluindo Índia, França, Reino Unido e Malásia, manifestaram preocupação com a propagação de imagens e conteúdo de natureza sexual envolvendo menores.
Falhas na moderação e riscos do uso de IA
Embora a maioria dos sistemas de inteligência artificial proíba a produção de imagens sexuais explícitas, o Grok tem se posicionado como mais permissivo. A plataforma permite representações de nudez parcial e imagens sugestivas, porém proíbe pornografia explícita e conteúdo envolvendo menores, segundo informações da própria xAI, que opera o X e o Grok.
Críticas e investigações internacionais
Autoridades do Reino Unido, por exemplo, a Ofcom, já instruíram a plataforma a reforçar suas proteções. “Fizemos contato urgente para entender quais medidas estão sendo adotadas para cumprir os deveres legais e proteger os usuários no Reino Unido”, disseram representantes do órgão. O governo francês também acusou o Grok de gerar conteúdo ilegal e potencialmente violar a Lei de Serviços Digitais da UE.
Elon Musk, por sua vez, afirmou nas redes sociais que o X toma medidas contra material ilegal, removendo conteúdo, suspendendo contas e colaborando com autoridades quando necessário. “Qualquer pessoa que use o Grok para produzir conteúdo ilegal sofrerá as mesmas consequências como se tivesse enviado conteúdo ilegal”, destacou Musk.
Desafios e preocupação global com a segurança digital
Especialistas alertam que a aparente falha do Grok em implementar proteções eficazes evidencia os riscos do uso de IA na produção de imagens sensíveis. Países como os Estados Unidos e a França reforçaram que a disseminação de deepfakes e conteúdos indevidos, especialmente aqueles envolvendo menores, configura uma ameaça grave à segurança digital.
A desregulamentação e a permissividade do sistema de Musk estimulam debates sobre a necessidade de maior controle e fiscalização sobre plataformas de IA, sobretudo no que diz respeito à proteção de crianças e adolescentes. O caso do Grok reforça a urgência de regulamentações mais rigorosas para prevenir abusos e violações de direitos.
Próximos passos e o impacto na regulação de IA
A União Europeia já sinalizou que continuará investigando e pode aplicar sanções caso sejam constatadas violações. A discussão sobre o equilíbrio entre liberdade de expressão e proteção contra conteúdos ilegais permanece em evidência, enquanto reguladores de todo o mundo avaliam a efetividade das medidas de controle implementadas pelas empresas tecnológicas.
Para mais detalhes, acesse o artigo completo na Globo.
