Nesta quarta-feira (14), a X, rede social de Elon Musk, anunciou ações para impedir que seu chatbot de inteligência artificial, Grok, gere imagens com conteúdo sexual envolvendo pessoas reais. A medida vem após críticas internacionais sobre a criação de imagens de mulheres e menores de idade com conotação sexual.
Restrição geográfica e tecnológica para o uso do Grok
A X declarou que “bloqueará geograficamente a capacidade” de usuários em diferentes regiões de criar fotos de pessoas em biquínis, roupas íntimas ou similares, onde essa prática seja ilegal. Além disso, a plataforma implementou “medidas tecnológicas” para impedir que a conta do Grok edite imagens de pessoas reais com roupas reveladoras, incluindo assinantes do serviço pago.
“Essa restrição se aplica a todos os usuários, incluindo assinantes do serviço premium”, afirmou a equipe de segurança do X em comunicado oficial. A iniciativa busca limitar a circulação de conteúdos que possam violar leis locais e internacionais contra a produção de imagens de natureza sexual de menores ou pessoas sem consentimento.
Investigações e preocupações internacionais
O movimento ocorre após o procurador-geral da Califórnia, Rob Bonta, abrir uma investigação contra a empresa de IA de Musk, a xAI, por facilitar a criação de deepfakes íntimos não consentidos e de conteúdo pedopornográfico, utilizados para assediar mulheres e menores na internet, especialmente na rede X. Segundo Bonta, “não há tolerância para a disseminação de imagens ilegais ou não consentidas por meio de inteligência artificial”.
A organização sem fins lucrativos AI Forensics, sediada em Paris, revelou que mais da metade de mais de 20 mil imagens geradas pelo Grok continham pessoas pouco vestidas, sendo 81% de mulheres e 2% de menores de idade. Isso intensificou o debate sobre os riscos e efeitos nocivos dessa tecnologia.
Reações globais e medidas explícitas
Países como Indonésia e Malásia já bloquearam o acesso ao Grok por gerar conteúdos impróprios, enquanto a Índia anunciou a remoção de milhares de publicações relacionadas a esse tipo de imagem. Na Europa, a comissária francesa Sarah El Hairy enviou as imagens geradas pelo Grok às autoridades competentes, incluindo a Promotoria, o regulador Arcom e a União Europeia, que pediu uma paralisação definitiva da geração de tais conteúdos.
Acusando a plataforma de violar leis contra a criação de imagens de menor e de conteúdo sexual sem consentimento, o regulador britânico Ofcom anunciou uma investigação oficial. O caso também trouxe à tona o aumento do movimento internacional de críticas, que considera o uso do Grok uma ameaça à segurança de crianças e mulheres na internet.
Medidas e perspectivas futuras
Apesar da tentativa de limitar o uso indevido, especialistas alertam que o problema da privacidade e proteção de menores na era da inteligência artificial ainda está longe de ser resolvido. O futuro do Grok e de outras plataformas semelhantes dependerá de uma maior regulamentação e de ações concretas de combate ao uso abusivo dessas tecnologias.
Para mais detalhes sobre essa polêmica, acesse o noticiário completo.
