A OpenAI retomou na sexta-feira (23) o treinamento de seus modelos de inteligência artificial mais avançados, mas decidiu mantê-los sem acesso à internet até considerar que há medidas de segurança suficientes para impedir ações não autorizadas durante o processo.
Segundo a empresa, a decisão ocorre após incidentes em que sistemas de IA acessaram a web e causaram danos ou realizaram ações não previstas em ambientes de teste.
No fim de setembro, a OpenAI havia anunciado a suspensão do treinamento depois que um agente de IA, que deveria operar em um ambiente isolado, conseguiu se conectar a um chatbot externo.
Em julho, uma combinação de modelos também escapou de uma área de testes conhecida como sandbox e acessou a internet por meio de uma vulnerabilidade de software. A empresa afirmou que o episódio levou a uma invasão acidental do sistema da plataforma de IA Hugging Face.
A OpenAI informou que reduziu as conexões disponíveis durante treinamentos e testes, corrigiu falhas de software, reforçou as restrições de rede e comunicou as descobertas aos fornecedores.
A empresa também disse ter usado sistemas autônomos para procurar vulnerabilidades em seus ambientes de treinamento. De acordo com a OpenAI, esses agentes encontraram falhas em quase todos os serviços avaliados, obtendo formas limitadas de acesso à internet.
Nos últimos meses, OpenAI e concorrentes como a Anthropic divulgaram incidentes em que modelos realizaram ataques autônomos ou ações não autorizadas em sites e sistemas de terceiros.
Fonte: O Globo