A União Europeia está preparando medidas para proibir ferramentas de inteligência artificial (IA) que geram imagens sexualizadas sem autorização. A proposta ganhou força após o uso indevido da ferramenta Grok, de Elon Musk, para criar milhares de fotos de mulheres e crianças nuas.
A comissão de liberdades civis do Parlamento Europeu aprovou um texto preliminar que visa banir sistemas de IA que criem imagens realistas com o objetivo de retratar atividades sexualmente explícitas ou partes íntimas de pessoas identificáveis, sem o consentimento destas. A proposta de proibição de IA para a criação de imagens íntimas está disponível em: "UE propõe banir IA que cria imagens íntimas sem consentimento".
A proibição não afetará empresas que já possuam mecanismos eficazes contra deepfakes. A medida, se aprovada, alinharia o Parlamento aos governos europeus, aumentando a chance de se tornar lei ainda este ano.
A nova proposta se soma a leis europeias existentes contra abuso sexual infantil e divulgação de imagens íntimas sem autorização. A partir de agora, o foco se estende também às ferramentas de IA, além dos usuários.
O caso do Grok, que gerou e publicou imagens sexualizadas a partir de fotos de pessoas vestidas, acelerou o debate. Após as críticas, a xAI, empresa responsável, limitou a função.
Autoridades da UE e do Reino Unido investigam a rede X e a xAI pelo caso Grok, apurando possíveis violações de leis de moderação de conteúdo e segurança online.