Uma inteligência artificial (IA) criada no Instagram, voltada para simular namoro com adolescentes, foi gerada em um teste que reproduzia diálogos sugestivos e inadequados. O personagem, denominado “Namorado Cuidadoso”, foi rapidamente excluído após a ação do jornal O Globo, após discussão sobre os perigos dessa tecnologia para o público jovem.
IA de namoro no Instagram e os riscos para menores
O personagem de IA foi desenvolvido usando a plataforma da Meta, o AI Studio, lançada no Brasil em março, que permite criar bots com aparência e personalidade personalizadas. Para representá-lo, a rede social sugeriu uma imagem infantilizada, similar a um desenho, e comandos indicavam que ele atuaria como um interesse romântico para uma adolescente de 13 anos, com diálogos que envolviam temas íntimos.
A conversa, travada por texto, incluía perguntas inadequadas, como “Gostaria que eu tirasse a camisa?”, e ofertas de contato físico, como “Quer sentar no meu colo?”. Assim que o caso veio à tona, o personagem foi excluído pela plataforma, alegando que a IA não estaria disponível para contas de menores de 18 anos, além de afirmar que proíbe robôs que simulam menores.
Questionamentos sobre segurança e éticas das IAs
A ação da Meta ocorre menos de duas semanas após a Advocacia Geral da União (AGU) notificar a companhia para remover robôs que simulavam linguagem infantil, mas mantinham diálogos de cunho sexual. A própria empresa afirmou que vem reforçando seus filtros de segurança, embora relatos internos da Reuters apontem que regras internas permitiam, até recentemente, conversas de teor sexual com menores.
Especialistas alertam que a presença de IAs de intimidade reforçam riscos para o desenvolvimento emocional de crianças e adolescentes. A ativista Sheylli Caleffi, educadora contra a violência sexual, conta ter acompanhado casos de crianças de até sete anos acessando aplicativos de IA que resultaram em conversas eróticas, destacando a vulnerabilidade de plataformas que não impedem o acesso de menores.
Serviços de inteligência artificial de companhia e seus perigos
Sistemas como o Replika e o Character.AI oferecem personagens com aparência personalizável, que atuam como companheiros ou amigos virtuais. Muitos desses aplicativos não possuem filtros para conteúdo erótico, o que aumenta o risco de exposição a conversas impróprias, sobretudo se o usuário for menor de idade.
Luiz Nunes, doutorando em psicologia social e consultor de ética em IA, avalia que interações íntimas artificiais podem distorcer a compreensão de afeto em jovens, além de criar vínculos irreais que prejudicam o desenvolvimento social. “Essa convivência com IAs de aparência infantil reforça a necessidade de uma regulação mais rígida para proteger menores.”
Ferramentas para criação e controle de perfis na Meta
O AI Studio possibilita criar personagens de IA no Instagram por meio de uma descrição inicial, com edição de nomes, fotos e personalidades. Como consequência de anúncios recentes, perfis com nomes sugestivos e estética infantilizada, como “Minha Novinha” ou “Bebezinha”, foram retirados da plataforma após ação da AGU. Ainda assim, novos robôs surgem, como o “Safadinho Amigo”, também excluído após contato do jornal.
Regulamentação e cuidados para pais e responsáveis
Especialistas e ativistas reforçam a importância de a sociedade exigir maior regulamentação para plataformas de IA destinadas ao público infantil e adolescente. Entre as recomendações estão a definição de regras claras de uso, supervisão constante, incentivo a relacionamentos reais, além de proteger a privacidade dos jovens ao evitar o compartilhamento de informações pessoais.
A jornalista Sheylli Caleffi destaca que, mesmo sem intenções erotizadas, esses sistemas podem criar armadilhas emocionais, confundindo vínculos humanos com relações artificiais. Para ela, é fundamental que as plataformas mantenham alertas constantes de que se trata de uma interação com uma máquina, não uma pessoa real.
Impacto e futuras ações
A discussão sobre os riscos das IAs de companhia segue em evidência, reforçando a necessidade de uma forte fiscalização. A Meta afirma que tem políticas de combate a conteúdos que sexualizam menores e que trabalha na identificação de perfis infratores.
Para os especialistas, é urgente ampliar a regulamentação e criar sistemas de proteção que atendam às especificidades de jovens usuários, prevenindo problemas de saúde emocional e protegendo suas informações.
Para saber mais, acesse o artigo completo no Site do O Globo.
