O Reino Unido anunciou nesta segunda-feira (26) que pretende implementar uma lei que criminaliza a produção de imagens sexualizadas sem consentimento, incluindo aquelas criadas por inteligência artificial (IA), como as geradas pelo chatbot Grok no aplicativo X, de Elon Musk. A medida ocorre após recentes escândalos envolvendo deepfakes na plataforma.
Propostas para combater imagens não consentidas e deepfakes
O secretário de Tecnologia, Liz Kendal, declarou na Câmara dos Comuns que “é crime criar ou tentar criar esse tipo de conteúdo”, destacando que quem fizer isso deve estar preparado para enfrentar punições severas. Kendal ainda informou que o governo trabalhará para tornar ilegal a oferta dessas ferramentas por empresas, com o objetivo de evitar a disseminação de imagens inadequadas.
O anúncio ocorre horas após a Agência de Comunicação do Reino Unido (Ofcom) declarar que investigará o X e as milhares de imagens pornográficas geradas pelo Grok, incluindo supostas fotos de menores, como parte do cumprimento do Online Safety Act (Lei de Segurança Online).
Medidas da plataforma X e críticas do governo
Nesta sexta-feira, a plataforma X limitou a geração e edição de imagens adultas ao acesso mediante assinatura paga, mas Kendal afirmou que essa restrição é insuficiente. “É uma afronta às vítimas dizer que o serviço pode continuar se você pagar. Isso é monetizar o abuso”, criticou o secretário.
Elon Musk, dono do X, introduziu em julho passado o modo “Spicy Mode” no Grok, que permite a criação de conteúdo adulto. A empresa afirma que atua contra conteúdos ilegais na plataforma, removendo imagens de abuso infantil e suspendendo contas suspeitas, colaborando com autoridades locais quando necessário.
Impactos e próximos passos
O governo britânico detalhou que a nova legislação poderá criminalizar quem produzir imagens não consensuais, incluindo deepfakes, reforçando o compromisso de combater o abuso digital. A investigação de Ofcom buscará verificar se a plataforma tem cumprido suas responsabilidades na proteção de usuários, especialmente de menores.
Especialistas apontam que essa iniciativa representa um avanço na regulação de inteligência artificial e conteúdo digital, buscando equilibrar liberdade e proteção dos cidadãos.
