Recentemente, um caso alarmante envolvendo pelo menos 17 alunas do ensino médio do Colégio Santa Maria, em Belo Horizonte (MG), levantou questões importantes sobre a ética e o uso da inteligência artificial (IA) nas redes sociais. As estudantes denunciaram que suas imagens foram manipuladas para a criação de conteúdos pornográficos através de uma técnica chamada deepfake, o que gerou preocupação entre o público feminino e repercutiu nas redes sociais.
A resposta legislativa ao problema da manipulação digital
O drama das alunas rapidamente chegou à agenda política brasileira, levando a Câmara dos Deputados a aprovar um projeto de lei (PL) que visa incluir a manipulação digital e a divulgação de nudez ou atos sexuais falsos gerados por IA no Código Penal. Se a proposta for aprovada pelo Senado e se tornar lei, quem for condenado pela prática poderá enfrentar penas de reclusão entre 2 a 6 anos, além de multas. A lei prevê ainda um aumento das penas em situações específicas, como quando a vítima é uma mulher, criança ou pessoa idosa, e quando o crime é disseminado em larga escala nas redes sociais.
Denúncias no Colégio Santa Maria
As denúncias foram inicialmente trazidas à público pela influenciadora Ive Moreira, que é irmã de um ex-aluno do colégio. Em um vídeo viral no TikTok, ela revelou que os alunos da instituição estavam utilizando imagens das vítimas, que haviam sido postadas em suas redes sociais, para gerar falsas imagens íntimas. Essas imagens eram disseminadas em grupos no Telegram e WhatsApp, acessíveis a qualquer internauta interessado. Segundo a influenciadora, as garotas afetadas, com idades entre 12 e 17 anos, tiveram seus nomes associados às imagens, resultando em um cenário de humilhação e sofrimento.
Além disso, relatos apontam que um aluno estaria comercializando esse material por meio de uma das plataformas mencionadas, o que agrava ainda mais a situação. Essa prática não apenas coloca as vítimas em risco, mas também expõe uma brecha na segurança e privacidade dos dados pessoais na era digital.
Orientações para vítimas de violência digital
A advogada especializada em direito penal e digital, Jéssica Marques, aconselha que vítimas de manipulação de imagens por IA colham o máximo de provas possíveis quando se depararem com tal situação. O primeiro passo é registrar a imagem alterada e seu endereço URL, bem como verificar a lista de quem visualizou a foto original em suas redes sociais. Este acervo probatório é crucial para a identificação do infrator.
Marques também ressalta a importância de não compartilhar dados pessoais nas redes sociais e de restringir o acesso a vídeos e imagens, minimizando o risco de utilização não autorizada. Além disso, as vítimas devem denunciar o conteúdo indevido e notificar a plataforma utilizada para que ajude na identificação do responsável. Registrar a ocorrência em uma delegacia especializada é fundamental para que a investigação seja devidamente iniciada.
As implicações da inteligência artificial na sociedade
A tecnologia de geração de conteúdos por IA tem avançado rapidamente, trazendo à tona discussões sobre suas consequências. Em conversas com o Metrópoles, o professor de direito da Universidade de Brasília (UnB), Alexandre Veronese, expressou preocupações sobre a adequação da legislação atual para enfrentar os crimes cibernéticos. Ele aponta que, apesar dos esforços para se alinhar à Convenção de Budapeste, o Brasil ainda enfrenta desafios significativos na aplicação de leis que tratam de crimes digitais e proteção de dados pessoais.
Veronese defende uma revisão completa do Código Penal e do Código de Processo Penal, destacando a necessidade de uma tipificação mais precisa dos crimes envolvendo IA e a proteção de dados pessoais. A Lei Geral de Proteção de Dados (LGPD) tem suas limitações, pois exclui a incidência nas investigações criminais, resultando em lacunas legais que vulnerabilizam as vítimas.
O professor também alerta que, embora a IA possa ter utilidades benéficas, sua acessibilidade crescente torna mais fácil o seu uso para a realização de fraudes e outras atividades ilegais. Ele sugere que as leis sejam atualizadas para incluir agravantes para crimes com uso de IA e destacar a urgência de tal reformulação na legislação.
Considerações finais
O caso das alunas do Colégio Santa Maria é um reflexo das questões maiores que envolvem a manipulação digital e a privacidade na era da informação. À medida que as tecnologias avançam, a necessidade de um marco legal que proteja as vítimas e desencoraje o uso malicioso da IA se torna cada vez mais evidente. O debate em torno da responsabilidade legal e ética de indivíduos e plataformas é fundamental para garantir que novas gerações possam navegar o mundo digital de forma segura e digna.
