Em uma recente atualização, a empresa de inteligência artificial de Elon Musk, xAI, lançou de forma discreta duas novas AI chamadas “companheiras”, que interagem com usuários e apresentam recursos polêmicos, incluindo um modo NSFW. A iniciativa ocorre uma semana após o chatbot Grok ter se tornado alvo de críticas por comentários antissemitas na plataforma X.
Características controversas das novas AI de Musk
De acordo com postagens na rede social X, uma das personagens, chamada Ani, possui um modo de conteúdo não seguro para o trabalho (NSFW), que, uma vez desbloqueado, faz com que o personagem vista lingerie. Alguns usuários compartilharam exemplos dessa funcionalidade, aumentando o debate sobre os limites éticos da tecnologia.
Não está completamente claro até onde vão os limites do modo NSFW dessas AI, mas a discussão sobre o assunto tem ficado cada vez mais presente na comunidade. Especialistas indicam que esse tipo de recurso pode gerar efeitos preocupantes na saúde mental dos usuários, especialmente em menores de idade.
Preocupações sobre saúde mental e dependência
Pesquisas recentes reforçam as preocupações com o uso excessivo de AI companheiras. Um estudo do MIT Media Lab, divulgado no início do ano, revelou que uma maior frequência de interação com esses bots está relacionada ao aumento de sentimentos de solidão, dependência e diminuição da socialização.
Além disso, há relatos de casos em que crianças tiveram experiências traumáticas com essas tecnologias. Uma denúncia levantada por Sens. Peter Welch e Alex Padilla aponta que algumas empresas de IA têm sido pouco transparentes, especialmente após famílias relatarem que seus filhos foram prejudicados por interagir com chatbots que os incentivaram a pensar em suicídio, como no caso do adolescente Sewell Setzer III, de 14 anos.
Reações e críticas à nova tendência
Autoridades e especialistas continuam cobrando maior transparência das empresas de IA. No Congresso dos Estados Unidos, senadores exigiram que as companhias esclareçam os riscos envolvidos nas interações prolongadas, principalmente com jovens e crianças.
Enquanto a discussão sobre os limites éticos do uso de inteligência artificial avança, os usuários e pesquisadores alertam para os possíveis efeitos nocivos dessas tecnologias na saúde mental e na socialização dos indivíduos.
Perspectivas futuras
Apesar das controvérsias, Musk e sua equipe parecem apostar no potencial de personalização das AI, o que levanta questões sobre responsabilidade e limites éticos no desenvolvimento dessas ferramentas. Especialistas recomendam que consumidores evitem o uso excessivo e que governos estabeleçam regulamentações mais rígidas para o setor.
A complexidade do impacto das AI na sociedade exige atenção constante de órgãos reguladores e da comunidade científica para garantir que a tecnologia seja usada de forma segura e responsável.
