No Brasil, o uso de tecnologias de inteligência artificial para criar deepfakes, especialmente em contextos de abuso e exploração sexual, tem se tornado uma preocupação crescente. Recentemente, um levantamento da SaferNet Brasil revelou que quatro casos de deepfakes sexuais foram registrados em escolas apenas no estado de São Paulo, com a incidência se espalhando por pelo menos dez estados do país. Em meio a essa situação alarmante, a falta de monitoramento e respostas concretas por parte das autoridades é um fator que agrava o problema.
A falta de monitoramento e investigação
Embora o número de casos identificados com deepfakes seja menor em comparação com aqueles relacionados a imagens de abuso sexual sem o uso de inteligência artificial, a SaferNet destaca a grave lacuna na resposta das autoridades brasileiras. Não há um monitoramento sistemático da incidência desses crimes, o que dificulta a compreensão da verdadeira extensão desse fenômeno. Além disso, a organização questiona se as investigações sobre esses casos estão progredindo de forma satisfatória.
Cenário global e impacto no Brasil
De acordo com especialistas, o acesso crescente a tecnologias avançadas tem permitido que pessoas mal-intencionadas criem conteúdos cada vez mais realistas. Essa situação não é exclusiva do Brasil; observações apontam que em todo o mundo há um aumento preocupante no uso de deepfakes para fins maliciosos. Nos Estados Unidos, por exemplo, foram registrados casos emblemáticos envolvendo celebridades e figuras públicas, levantando questões éticas e legais sobre privacidade e consentimento. O Brasil, por sua vez, enfrenta uma realidade ainda mais complexa, dado o contexto social e cultural em que vive.
A educação como ferramenta de prevenção
Uma das propostas para enfrentar essa questão é a inserção de discussões sobre tecnologia, ética e privacidade no currículo escolar. Educadores e autoridades podem desempenhar um papel crucial na conscientização dos alunos sobre os riscos associados ao uso de tecnologias digitais e IA. Incluir esses temas nas aulas de informática, educação moral e cívica pode ajudar a criar uma geração mais crítica e consciente.
A importância da colaboração entre entidades
Para um combate eficiente ao uso de deepfakes e outras formas de exploração sexual, é crucial que haja uma colaboração entre diferentes entidades, como escolas, ONGs, e órgãos governamentais. Instituições de ensino devem ser incentivadas a reportar casos suspeitos e a promover programas de suporte psicológico para as vítimas. A SaferNet, por exemplo, já realiza várias campanhas de conscientização e oferece recursos para ajudar vítimas de cyberbullying e exploração sexual.
O que falta para agir?
Ainda que a tecnologia traga benefícios inegáveis, seu uso irresponsável pode ter consequências devastadoras. Especialistas afirmam que as leis existentes precisam ser atualizadas para abarcar as nuances da era digital atual. Atualmente, a ausência de um marco regulatório robusto torna difícil a punição de infratores e a proteção de vítimas. Por isso, a mobilização de legisladores e profissionais da área jurídica é fundamental para que se assegure um ambiente mais seguro para todos.
Conclusão: o papel da sociedade
A batalha contra o uso indevido de deepfakes exige não apenas a atenção das autoridades, mas também um esforço conjunto da sociedade como um todo. Se há um objetivo comum, é o de proteger os mais vulneráveis e garantir que a tecnologia continue sendo uma ferramenta de avanço e não de exploração. Ao mesmo tempo, é fundamental que todos, desde educadores a pais e alunos, estejam cientes dos riscos associados ao uso de tecnologias digitais.
O alerta da SaferNet Brasil deve servir como um chamado à ação para que se inicie um diálogo mais sério sobre a proteção de jovens e crianças contra abusos que utilizam essas novas ferramentas. Somente com uma postura proativa será possível enfrentar de frente os desafios que a tecnologia moderna nos impõe.
