A cada dia, o mundo digital testemunha o surgimento de novos desafios, e um dos mais alarmantes é a proliferação de aplicativos e sites de nudificação. Essas plataformas permitem que qualquer pessoa crie imagens não consentidas e abusivas de mulheres e meninas, potencializando o problema da violência de gênero online. Recentemente, uma pesquisa revelou que esse ecossistema está gerando lucros milionários e, apesar dos esforços de regulamentação, esses sites continuam a prosperar.
O impacto das novas tecnologias de imagem
De acordo com uma análise realizada pela Indicator, 85 sites de nudificação operam com assistência de grandes empresas de tecnologia como Google, Amazon e Cloudflare. Os sites têm, em média, 18,5 milhões de visitantes por mês, gerando receitas que podem alcançar até 36 milhões de dólares anuais. Esses números revelam o quanto a indústria de nudificação se tornou um negócio lucrativo e alarmante, beneficiando-se da abordagem laxa do Vale do Silício em relação à inteligência artificial generativa.
Um negócio em expansão
Alexios Mantzarlis, cofundador da Indicator e pesquisador em segurança online, ressalta que a persistência desse mercado é preocupante. “Eles [as empresas de tecnologia] deveriam ter cessado qualquer serviço para os nudificadores assim que ficou claro que seu único caso de uso era o assédio sexual”, afirma. A legislação sobre deepfakes e a criação de imagens explícitas não consentidas está se tornando cada vez mais rígida, mas o desafio em garantir a legalidade e a ética no contínuo avanço da tecnologia é significativo.
O papel das grandes empresas de tecnologia
A pesquisa revelou que 62 dos 85 sites contam com serviços de hospedagem ou entrega de conteúdo da Amazon e da Cloudflare. Agora, mais do que nunca, é necessário que essas empresas assumam a responsabilidade pelo conteúdo que alimentam. Um porta-voz da Amazon Web Services mencionou que a empresa possui termos de serviço que exigem o cumprimento das leis aplicáveis, observando que agem rapidamente quando recebem denúncias de violação.
O Google, por sua vez, destacou que seu sistema de login requer que os desenvolvedores concordem com políticas que proíbem conteúdo ilegal e que assedie outros indivíduos. No entanto, sites de nudificação continuam a encontrar formas de eludir tais restrições, evidenciando a necessidade urgente de uma fiscalização mais robusta.
As consequências do abuso de imagem
A proliferação dos sites e bots de nudificação desde 2019 passou a ser alimentada por uma onda de geradores de imagens geradas por inteligência artificial. O impacto dessas tecnologias nas vivências pessoais de mulheres e meninas é devastador. As redes sociais tornaram-se um terreno fértil para o roubo de fotos, resultando em imagens abusivas que perpetuam o medo e a intimidação. Essa nova forma de ciberbullying tem afetado especialmente adolescentes, que, impulsionados pela falta de regulamentação, se sentem encorajados a produzir imagens de colegas sem consentimento.
A necessidade de ação coletiva
O desafio de lidar com essas tecnologias não se limita às plataformas específicas. É fundamental que haja uma ação coletiva que envolva legisladores, empresas de tecnologia e sociedade civil para enfrentar a questão. A luta contra os abusos decorrentes de novas tecnologias de imagem deve envolver não apenas a remoção de conteúdo ofensivo, mas também a educação sobre as consequências legais e sociais da criação e compartilhamento de deepfakes.
À medida que a tecnologia avança, a sociedade deve se mobilizar para garantir um espaço digital seguro e respeitoso para todos. A responsabilidade não recai apenas sobre as empresas de tecnologia, mas sobre cada um de nós enquanto cidadãos conscientes das implicações que o uso da tecnologia pode ter na vida das pessoas.
É essencial que se discutam formas efetivas de erradicar essas práticas e que se promova uma cultura de respeito e consentimento em todas as interações online. Somente assim conseguiremos mitigar os danos causados por este fenômeno crescente e proteger as vítimas desse tipo de abuso.
