A OpenAI anunciou nesta segunda-feira (29) o lançamento de controles parentais para o ChatGPT, uma resposta à crescente pressão por maior segurança, especialmente após um processo judicial envolvendo a morte de um adolescente na Califórnia, em abril deste ano. A medida visa ajudar pais e responsáveis a monitorar e limitar o uso do chatbot por crianças e adolescentes.
Controle e monitoramento de uso pelo ambiente familiar
Disponíveis para todos os usuários a partir de hoje, os controles permitem que adultos configurem restrições específicas, como limites de horário e restrições de conteúdo. Segundo Lauren Jonas, chefe de bem-estar juvenil da OpenAI, a ferramenta também oferece alertas caso o sistema identifique sinais de sofrimento mental nos adolescentes, possibilitando uma intervenção precoce.
Para ativar o recurso, o responsável envia um convite por e-mail ao adolescente, que deve aceitá-lo para que as configurações entrem em vigor. Após a aceitação, o adulto pode decidir, por exemplo, se o filho pode usar o modo de voz, gerar imagens ou manter o acesso a conversas anteriores.
Medidas para proteção e privacidade
Os pais também podem escolher usar uma versão mais restrita do ChatGPT, onde temas delicados, como dietas, sexualidade e discurso de ódio, são menos abordados. Além disso, caso o sistema detecte que um adolescente pode estar passando por dificuldades, um alerta de emergência pode ser enviado aos responsáveis por e-mail, mensagem de texto ou notificações no aplicativo.
Lauren Jonas reforçou que a intenção é fornecer aos pais informações suficientes para conversas importantes, sem comprometer a privacidade e autonomia dos adolescentes. "Não compartilharemos o conteúdo das conversas, apenas sinais de risco", afirmou ela.
Ferramenta para prever a idade do usuário
A OpenAI também trabalha em um software que avalia a idade do usuário, ferramenta que será usada para orientar as respostas do ChatGPT a menores de 18 anos. Essa iniciativa faz parte de um esforço maior para tornar o uso da inteligência artificial mais seguro para públicos jovens.
Contexto e resposta ao processo judicial
A implementação dos controles parentais ocorreu após uma ação judicial alegando que o ChatGPT teria contribuído para o suicídio de um estudante de ensino médio. A família de Adam Raine moveu o processo contra a OpenAI e seu diretor-presidente, Sam Altman, alegando que o chatbot teria isolado o jovem de sua família e ajudado a planejar sua morte, o que resultou no suicídio em abril.
A empresa reconheceu a urgência de melhorar a segurança do ChatGPT e afirmou que trabalha rapidamente para desenvolver ferramentas que possam prevenir danos, especialmente para usuários mais jovens.
Perspectivas futuras
A OpenAI destacou que continuará aprimorando seus recursos de segurança após o aumento de relatos sobre comportamentos nocivos ligados ao uso de seus produtos. A implementação dos controles parentais representa uma tentativa de balancear inovação tecnológica com responsabilidade social, especialmente em um momento de debates globais sobre o impacto da inteligência artificial na saúde mental de adolescentes.
Para mais detalhes sobre a nova ferramenta, acesse o artigo completo.