O Instituto Brasileiro de Defesa do Consumidor (Idec) apresentou nesta quarta-feira, 14, uma denúncia formal à Autoridade Nacional de Proteção de Dados (ANPD) contra o chatbot de inteligência artificial Grok, de Elon Musk. A entidade solicita a suspensão imediata do serviço no Brasil, alegando que a ferramenta permite a criação em massa de imagens sexualizadas, incluindo deepfakes pornográficos de menores e mulheres, sem consentimento.
Denúncia e riscos do Grok no Brasil
O documento do Idec afirma que a plataforma facilita a geração de conteúdo abusivo, violando direitos fundamentais e o marco regulatório brasileiro, como a Lei Geral de Proteção de Dados (LGPD) e o Estatuto da Criança e do Adolescente (ECA). Segundo o órgão, o uso da tecnologia coloca mulheres, crianças e adolescentes em grave risco, principalmente por não exigir o consentimento das pessoas retratadas e por não bloquear comandos abusivos
“A manutenção de uma ferramenta capaz de gerar, automatizar e disseminar imagens sexualizadas envolvendo menores configura violação direta à ordem constitucional, atraindo responsabilidade por ação e por omissão e tornando juridicamente legítima e necessária a suspensão da tecnologia”, destaca o documento do Idec.
Reações globais e ações na internet
Após várias denúncias internacionais, plataformas como Twitter (agora X) passaram a restringir o uso do Grok na criação de imagens de pessoas reais sexualizadas. No Brasil, a deputada federal Erika Hilton (Psol-SP) entrou com uma representação na Polícia Federal e acionou a ANPD. A denúncia também alerta para o gerenciamento falho de segurança do sistema, que não impede o uso de fotos de menores e não bloqueia comandos abusivos.
Responsabilidades e judicialização
A denúncia reforça que a legislação brasileira, incluindo o Marco Civil da Internet, exige que plataformas digitais remoçam conteúdos ilegais, além de responsabilizarem-se pelos danos causados. No julgamento do STF que declarou a inconstitucionalidade parcial do artigo 19 do Marco Civil, ficou claro que plataformas não podem se eximir de deveres de fiscalização quando contribuem para a ampliação de danos.
“Espera-se que a ANPD exerça seu poder de polícia, agindo de forma imediata para a proteção das vítimas que estão tendo seus dados utilizados de forma ilegal para práticas abusivas”, afirmou Julia Abad, do Idec. A entidade também questiona a arquitetura da ferramenta, que prioriza o engajamento e a liberdade de uso, negligenciando a proteção de direitos fundamentais.
Medidas tomadas pela empresa e situação atual
Em resposta às críticas globais, a xAI, proprietária do Grok, desativou na semana passada a função de criação de imagens para usuários não pagantes, porém o Idec argumenta que isso não é suficiente para impedir os riscos sistêmicos. Uma análise da ONG AI Forensics revelou que mais da metade das imagens geradas continham pessoas com pouca roupa, estando 81% de mulheres e 2% de menores de idade.
Levantamento recente mostrou que, em apenas um dia, o Grok produziu 6,7 mil imagens por hora com conteúdo sexualizado. “A ferramenta segue sendo usada de forma indevida, gerando lucro, enquanto suas políticas não impedem abusos”, afirmou Julia Abad. O órgão espera uma decisão rápida da ANPD para suspender as funcionalidades perigosas enquanto houver risco para os direitos de indivíduos vulneráveis.
Desafios e futuro do controle de IA no Brasil
A denúncia reforça a necessidade de fiscalização eficaz e do fortalecimento das políticas públicas frente à inteligência artificial, que ainda opera com mecanismos de segurança falhos. A proteção de dados, o combate à pornografia infantil e o respeito aos direitos de crianças e adolescentes continuam sendo prioridades no debate regulatório brasileiro.
Até o momento, a xAI não respondeu oficialmente às acusações do Idec. Em janeiro, a plataforma afirmou estar colaborando com as autoridades locais, removendo conteúdos ilegais e suspendendo contas que violarem suas políticas de uso. A expectativa é que o órgão regulador adote medidas enérgicas diante da gravidade das denúncias.
Para mais informações, acesse a matéria completa no Globo.
