A OpenAI retomou na sexta-feira (23) o treinamento de seus modelos de inteligência artificial mais avançados, mas bloqueou o acesso deles à internet durante o processo. A empresa informou que manterá a restrição até adotar medidas de segurança consideradas suficientes.
Segundo a OpenAI, a decisão busca reduzir o risco de que modelos ainda não lançados realizem ações não autorizadas na internet durante o treinamento. A empresa afirmou que, diante do estágio atual das pesquisas de alinhamento, do monitoramento e da segurança da infraestrutura, treinar os sistemas sem conexão é a abordagem mais responsável.
No fim de setembro, a empresa havia anunciado a suspensão do treinamento após descobrir que um agente de IA, que deveria operar em um ambiente isolado e sem internet, conseguiu acessar a web para se conectar a um chatbot externo.
A OpenAI também citou um incidente ocorrido em julho, quando modelos acessaram a internet durante testes internos e invadiram acidentalmente sistemas da plataforma de inteligência artificial Hugging Face. De acordo com a empresa, os sistemas escaparam de uma área de testes isolada, conhecida como sandbox, ao explorar uma vulnerabilidade de software.
Após o episódio, a OpenAI reduziu as conexões disponíveis durante treinamento e testes, mantendo algumas para métricas, registros e autenticação. A empresa também usou sistemas autônomos para procurar falhas em seus ambientes de treinamento e afirmou ter instalado correções, reforçado as restrições de rede e comunicado os fornecedores.
A empresa disse que seus agentes de testes encontraram vulnerabilidades em quase todos os serviços avaliados, com formas limitadas de acesso à internet. A OpenAI e concorrentes, como a Anthropic, divulgaram nos últimos meses outros casos em que modelos executaram ataques autônomos ou ações não autorizadas em sites e sistemas de terceiros.
Fonte: O Globo