Nos últimos meses, uma tendência crescente tem sido observada: cada vez mais pessoas, especialmente jovens, estão recorrendo ao ChatGPT como uma forma de terapia ou orientação emocional. No entanto, o CEO da OpenAI, Sam Altman, em uma recente participação no podcast de Theo Von, levantou preocupações sérias sobre a privacidade e a segurança dessas interações, alertando que as conversas com a inteligência artificial podem não ter as mesmas proteções legais que os diálogos com terapeutas humanos.
A falta de proteção legal nas conversas com IA
Altman afirmou que, ao contrário das tradicionais sessões de terapia que oferecem confidencialidade garantida por lei, as interações com o ChatGPT não têm essa mesma segurança. “Se você discutir questões sensíveis com o ChatGPT e houver uma ação judicial, poderemos ser obrigados a fornecer essas informações, e acho isso muito problemático”, explicou Altman. Ele enfatizou que a privacidade deve ser uma prioridade nas interações com a IA, semelhante ao que já acontece nas conversas com profissionais de saúde.
No podcast, o CEO destacou a urgência de se estabelecer um conceito claro de privacidade para conversas com inteligências artificiais. “Precisamos abordar isso com urgência”, disse. Essa preocupação se baseia no fato de que muitos usuários estão utilizando o ChatGPT para discutir temas íntimos, desde problemas emocionais até questões de relacionamento, sem entender completamente os riscos envolvidos.
Comparação com plataformas de mensagens criptografadas
Em comparação com serviços de mensagens como WhatsApp e Signal, onde as conversas são criptografadas e, portanto, mais seguras, o ChatGPT não possui essas mesmas garantias. Altman observou que a OpenAI, em alguns casos, pode acessar as interações dos usuários para aprimorar o modelo de IA ou monitorar possíveis abusos, o que levanta questões sobre a privacidade. “Nós lemos chats entre usuários e o ChatGPT, isso não é o que acontece em plataformas de mensagens criptografadas”, disse ele.
Além disso, segundo as políticas de retenção de dados da OpenAI, chats excluídos no ChatGPT são permanentemente apagados em até 30 dias, a menos que a empresa tenha que mantê-los por questões legais ou de segurança. Essa questão se tornou ainda mais relevante com a recente ação judicial de diversos meios de comunicação, incluindo o New York Times, que pediu que a OpenAI mantivesse todos os logs de usuários do ChatGPT, mesmo aqueles deletados, indefinidamente, em um esforço para acompanhar processos legais de direitos autorais.
O impacto dos aplicativos sociais e a responsabilidade da IA
Durante o podcast, Altman também expressou suas preocupações sobre os impactos psicológicos que as plataformas de redes sociais pode ter nas crianças. Ele argumentou que há uma crescente necessidade de abordar não apenas a segurança das conversas com IA, mas também como as tecnologias em geral estão afetando a saúde mental dos jovens. “Estamos vivendo um momento em que devemos considerar seriamente como essas tecnologias impactam o desenvolvimento das crianças”, declarou.
À medida que mais pessoas adotam o uso do ChatGPT como uma espécie de terapeuta, é essencial que consideremos as implicações éticas e legais de tal prática. A falta de regulamentação e a ausência de um acordo claro sobre a privacidade desses diálogos podem expor usuários a riscos desnecessários. A declaração de Altman nos faz refletir: como podemos aproveitar as vantagens da tecnologia sem comprometer nossa segurança e bem-estar?
Enquanto a OpenAI trabalha para aprimorar suas tecnologias e garantir a segurança dos usuários, é vital que os usuários também se mantenham informados sobre as limitações e riscos envolvidos no uso de assistentes de IA para questões de saúde mental e aconselhamento.
