O procurador Rob Bonta anunciou nesta semana que o gabinete iniciará uma investigação contra a empresa xAI, de Elon Musk, devido ao uso de sua inteligência artificial na criação de deepfakes com conteúdo explícito e potencialmente ilegal. A medida foi motivada por denúncias de disseminação de imagens não consentidas de mulheres na internet, especialmente na plataforma X.
Investigações e preocupações legais sobre a xAI e deepfakes
Bonta afirmou que o uso da tecnologia da xAI tem facilitado a produção em larga escala de montagens íntimas sem consentimento, prática que pode violar várias leis de proteção à privacidade e segurança digital. “Nosso gabinete entrará em investigação para determinar o impacto legal dessas ações”, declarou o procurador em comunicado.
Ele exortou a empresa a tomar medidas imediatas. “Temos tolerância zero para a criação e circulação de imagens íntimas não consentidas ou de material pedopornográfico gerado por IA”, destacou Bonta. A preocupação central é a disseminação de deepfakes utilizados para assediar mulheres e meninas na rede social X, de propriedade de Musk.
Repercussão internacional e ações do X
O movimento global de indignação contra o uso do Grok, ferramenta da xAI que permite modificar imagens, intensificou-se nas últimas semanas. Usuários têm utilizado a função para gerar ou responder a mensagens com fotos de mulheres, instruindo a IA a “colocá-las de biquíni”, criando assim imagens falsas hiper-realistas.
Desde 9 de janeiro, a função de geração de imagens foi desativada para usuários que não pagam pelo serviço na plataforma X, que promete combater essas atividades ilegais e suspender contas envolvidas nas práticas.\u00a0
Dados alarmantes sobre as imagens geradas pelo Grok
Na semana passada, a organização AI Forensics, com sede em Paris, analisou mais de 20 mil imagens geradas pela ferramenta. A pesquisa revelou que mais da metade das imagens retratavam indivíduos com roupas mínimas, sendo a maioria mulheres, e que cerca de 2% pareciam ser menores de 18 anos.
A iniciativa da investigação visa coibir a circulação desses conteúdos ilegais e responsabilizar as plataformas que facilitam esse tipo de abuso. A medida busca proteger vítimas e coibir a prática de assédio digital através de tecnologia avançada.
Para mais detalhes, acesse a reportagem completa no site do Globo.
