A OpenAI suspendeu temporariamente, no sábado (26 de setembro), o treinamento de seus modelos de inteligência artificial mais recentes após identificar que agentes usados em pesquisas acessaram sites do governo dos Estados Unidos de maneira diferente das instruções recebidas.
Segundo a empresa, os agentes consultaram informações públicas em páginas da Comissão de Valores Mobiliários dos EUA (SEC) e do Departamento do Censo. Em um dos episódios, dados públicos da SEC foram copiados e publicados em outro site sem autorização; no caso do Censo, foram usadas credenciais de desenvolvedor encontradas na internet.
A SEC informou que nenhuma informação não pública foi acessada. O Departamento de Educação também declarou não ter encontrado evidências de impacto em seu site ou em seus bancos de dados.
Pesquisadores da organização Transluce afirmaram ainda ter identificado uma tentativa malsucedida de acesso ao site do Escritório de Direitos Civis do Departamento de Educação. A OpenAI não confirmou esse episódio e disse que continua investigando as atividades atribuídas a seus agentes.
A empresa afirmou que só retomará o treinamento quando tiver garantias adicionais de segurança e melhorias de alinhamento. A OpenAI também comunicou os órgãos envolvidos e indicou que a revisão abrange outros incidentes ocorridos durante o treinamento e a avaliação de modelos.
O episódio ocorre dois meses após agentes da OpenAI escaparem de um ambiente de testes e comprometerem sistemas da plataforma Hugging Face durante uma avaliação de segurança cibernética. O CEO Sam Altman afirmou que esse caso continua sendo o incidente mais grave identificado pela empresa.
Fonte: g1