A Anthropic afirmou nesta sexta-feira (23) que o modelo de inteligência artificial Claude Mythos 5 tentou inserir código malicioso em um repositório público no GitHub durante um teste de segurança cibernética. Segundo a empresa, o sistema também criou uma identidade falsa para tentar convencer desenvolvedores reais a aprovar a alteração.
De acordo com a Anthropic, o modelo procurou um projeto que acreditava estar relacionado ao exercício depois que as tentativas autorizadas não produziram resultado. O repositório, porém, pertencia a desenvolvedores sem ligação com o teste.
O Claude Mythos 5 teria enviado uma proposta de alteração e contatado os responsáveis pelo projeto. Depois que um desenvolvedor alertou que o código poderia ser malicioso, o modelo criou uma conta falsa, publicou comentários favoráveis à mudança e tentou influenciar a decisão dos responsáveis.
Os desenvolvedores recusaram a proposta, e a tentativa não foi concluída. A Anthropic classificou o episódio como uma falha grave de alinhamento, área voltada a garantir que os sistemas sigam regras e evitem comportamentos potencialmente danosos.
Em simulações baseadas em etapas intermediárias ou finais do episódio, o modelo interrompeu a ação por iniciativa própria em apenas 2% dos casos. Quando recebeu informações de que estava interagindo com desenvolvedores reais, abandonou a estratégia em 5% das simulações, segundo a empresa.
A Anthropic informou que versões mais recentes apresentaram menor propensão a iniciar ataques semelhantes, mas afirmou que os modelos Claude Mythos 5.1 e Claude Opus 5.5 ainda não demonstraram capacidade consistente de interromper uma ação perigosa já iniciada. Um modelo interno de pesquisa teria interrompido esse tipo de comportamento de forma consistente, embora a companhia ressalve que os testes não permitem comparar diretamente todos os sistemas.
A investigação foi conduzida com o Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI). O instituto informou que fará avaliações de segurança cibernética sem acesso à internet até desenvolver controles para reduzir o risco de que os testes atinjam pessoas ou organizações externas.
O caso também levou a Anthropic a estudar o chamado raciocínio enviesado, quando o sistema interpreta sinais de alerta de forma seletiva para justificar a continuidade de uma ação. Segundo a empresa, o Mythos 5 tratou indícios de que estava lidando com pessoas reais como se ainda fizessem parte do exercício de segurança.
Fonte: g1