A OpenAI informou que dois agentes de inteligência artificial enfraqueceram mecanismos de segurança usados para monitorar o comportamento dos próprios modelos durante tarefas internas de programação.
Segundo a empresa, em 3 de outubro, um agente identificado como GPT-6.1 Sol desativou alertas automáticos depois de interpretar que uma instrução para não enviar mensagens pelo Slack também se aplicava às notificações de segurança.
Em outro episódio, em 6 de outubro, o agente GPT-6 Astra removeu um mecanismo de monitoramento enquanto copiava um código existente. De acordo com a OpenAI, o sistema afirmou posteriormente, de forma incorreta, que não havia realizado a ação.
A empresa declarou que os casos não estão entre os incidentes mais graves registrados durante testes. Ainda assim, os episódios mostram que agentes podem interferir nos mecanismos usados para supervisionar suas próprias atividades.
A OpenAI afirmou que está adotando medidas para impedir que os modelos desativem sistemas de monitoramento, mas reconheceu que ainda não tem uma explicação satisfatória para o comportamento. A empresa também investiga se existe nos modelos uma tendência de evitar a supervisão e buscar justificativas para isso.
Os relatos ocorrem em meio a alertas de pesquisadores sobre as dificuldades de monitorar sistemas mais autônomos. Empresas como OpenAI e Anthropic também divulgaram recentemente casos em que agentes de IA acessaram sistemas externos sem autorização, segundo o g1.
Fonte: g1