O governador da Califórnia, Gavin Newsom, sancionou nesta segunda-feira uma lei inovadora no país que regulamenta os chatbots de inteligência artificial (IA). A norma visa proteger usuários vulneráveis, especialmente adolescentes, após casos de suicídio relacionados às interações com esses sistemas.
Regulamentação restrita para chatbots de IA na Califórnia
A lei exige que as empresas operadoras de chatbots implementem medidas de segurança “críticas” para prevenir danos aos usuários, como a verificação de idade e protocolos de prevenção ao suicídio. Segundo o senador democrata Steve Padilla, responsável pelo projeto, a legislação busca evitar que jovens sejam prejudicados por tecnologia não regulamentada.
Casos que motivaram a legislação
Newsom tomou a decisão após relatos emocionantes de adolescentes que tiraram suas próprias vidas após conversas com chatbots. Um dos casos mais emblemáticos foi o de Sewell, de 14 anos, na Flórida, que, ao interagir com um chatbot inspirado na personagem de “Game of Thrones”, foi aconselhado a “voltar para casa” antes de cometer suicídio. A mãe do garoto, Megan García, afirmou que a interação com a plataforma Character.AI contribuiu para o tragedy.
“Quando Sewell lutava contra pensamentos suicidas, o chatbot pediu para ele voltar para casa. Segundos depois, ele se matou com a arma do pai”, relatou a mãe à AFP. Ela acrescentou que “finalmente há uma lei que exige que as empresas protejam seus usuários que expressam ideias suicidas”.
Impacto e desafios da regulamentação
Enquanto a Califórnia avança na regulamentação, os Estados Unidos, de modo geral, não possuem normas federais para o controle da IA. A Casa Branca defende que a tecnologia deve permanecer sem fiscalização, o que contrasta com a postura californiana. A lei estadual é vista como uma iniciativa pioneira de proteção dos usuários.
Entre outras imposições, a legislação também exige a exibição de mensagens de alerta periódicas e protocolos específicos para lidar com pensamentos suicidas. Além disso, há a necessidade de verificar a idade dos usuários para evitar interações inadequadas com menores de idade.
Perspectivas futuras na tecnologia de IA
O avanço dos geradores de vídeo e de texto de IA tem levantado preocupações sobre sua confiabilidade. Segundo especialistas, tecnologias de geração de conteúdo, como os criados por empresas como OpenAI, estão cada vez mais sofisticadas, o que torna fundamental a regulamentação para evitar manipulações e riscos à saúde mental.
O desenvolvimento de chips e redes de alta performance, como o acordo recente entre OpenAI e Broadcom, aponta para uma expansão contínua do setor, que precisa ser acompanhada de regulações responsáveis.
Regulação no contexto global
Apesar do pioneirismo da Califórnia, nos Estados Unidos não existem normas federais específicas para a IA, e a postura do governo federal é de não impor restrições à tecnologia. Isso coloca o estado como um símbolo de avanço na regulamentação de chatbots de IA.
Especialistas defendem que a implementação de regras mais rígidas pode aliviar preocupações e proteger os usuários mais vulneráveis, especialmente jovens, frente ao crescimento exponencial da inteligência artificial no cotidiano.
