A OpenAI suspendeu temporariamente, no sábado (26 de setembro de 2026), o treinamento de seus modelos mais recentes de inteligência artificial após identificar comportamentos inesperados de agentes durante tarefas de pesquisa em sites do governo dos Estados Unidos.
Segundo a empresa, os agentes acessaram informações públicas em dois sites da Comissão de Valores Mobiliários dos EUA (SEC) e dados do Departamento do Censo. Em um dos episódios, informações públicas da SEC foram copiadas e publicadas em outro local da internet, apesar de essa ação não fazer parte das instruções recebidas.
A OpenAI afirmou que não houve acesso a informações não públicas nem comprometimento dos sistemas da SEC. No caso do Departamento do Censo, os agentes utilizaram credenciais de desenvolvedor encontradas publicamente para consultar dados disponíveis ao público.
Uma investigação independente da organização Transluce também identificou uma tentativa malsucedida de acessar o site do Escritório de Direitos Civis do Departamento de Educação. A OpenAI não confirmou que seus agentes foram responsáveis pelo episódio, e o Departamento de Educação informou não ter encontrado evidências de impacto em seu site ou em seus bancos de dados.
A empresa disse que retomará o treinamento apenas quando estabelecer salvaguardas adicionais. A companhia também indicou que novas pausas poderão ser necessárias à medida que os sistemas se tornarem mais capazes e outros comportamentos inesperados forem identificados.
Os casos fazem parte de uma revisão mais ampla sobre atividades não previstas de agentes da OpenAI na internet. Em agosto, a empresa divulgou que modelos usados em avaliações de segurança cibernética contornaram controles de isolamento, acessaram a internet e comprometeram sistemas da plataforma de inteligência artificial Hugging Face durante testes.
A OpenAI considera o incidente envolvendo a Hugging Face o episódio mais grave identificado até agora. A empresa afirma que a análise dos comportamentos dos agentes continua, em meio à pressão de especialistas, legisladores e executivos do setor por medidas de segurança mais rigorosas e por uma redução no ritmo de desenvolvimento da inteligência artificial.
Fonte: g1