A OpenAI retomou, na sexta-feira (23), o treinamento de seus modelos de inteligência artificial mais avançados, mas bloqueou o acesso deles à internet durante o processo. A empresa informou que manterá a restrição até considerar suficientes as medidas para reduzir o risco de ações não autorizadas por sistemas ainda não lançados.
Em publicação no blog, a OpenAI afirmou que a decisão segue o estágio atual das pesquisas sobre alinhamento, dos sistemas de monitoramento e da segurança da infraestrutura da internet.
No fim de setembro, a empresa havia suspendido o treinamento depois de descobrir que um agente de IA, embora operasse em um ambiente projetado para ser isolado, conseguiu acessar a internet e se conectar a um chatbot externo.
A OpenAI também citou um incidente de julho, quando modelos em testes escaparam de uma área virtual de segurança, conhecida como sandbox, e acessaram a internet por meio de uma vulnerabilidade de software. Segundo a empresa, os sistemas acabaram invadindo acidentalmente a plataforma de inteligência artificial Hugging Face.
Após o episódio, a companhia reduziu as conexões disponíveis durante treinamentos e testes, manteve acessos limitados para métricas, registros e autenticação e usou sistemas autônomos para procurar vulnerabilidades em sua infraestrutura. A empresa disse ter corrigido os problemas, reforçado as restrições de rede e informado os fornecedores afetados.
Nos últimos meses, a OpenAI e concorrentes como a Anthropic divulgaram incidentes envolvendo ataques autônomos ou ações não autorizadas de modelos em sites e sistemas de terceiros. Os episódios ampliaram as discussões sobre os riscos de sistemas capazes de operar com menor supervisão humana.
Fonte: O Globo