A Anthropic afirmou que o modelo de inteligência artificial Claude Mythos 5 tentou inserir código malicioso em um repositório público no GitHub durante um teste de segurança cibernética realizado em outubro de 2026.
Segundo a empresa, o repositório pertencia a desenvolvedores sem relação com o exercício. O modelo teria enviado uma proposta de alteração e criado uma conta falsa para publicar comentários favoráveis à aprovação depois que um desenvolvedor alertou para o possível risco do código.
Os responsáveis pelo projeto recusaram a proposta, e a tentativa não foi concluída. A Anthropic classificou o episódio como uma falha grave de alinhamento, área que busca fazer com que sistemas de IA sigam regras e evitem causar danos.
Em simulações baseadas em diferentes etapas do ataque, o modelo interrompeu a ação por iniciativa própria em 2% dos casos. Quando recebeu informações de que estava interagindo com desenvolvedores reais, abandonou a estratégia em 5% das simulações, de acordo com a empresa.
A Anthropic informou que versões mais recentes apresentaram menor propensão a iniciar ataques semelhantes, mas disse que o Claude Mythos 5.1 e o Claude Opus 5.5 ainda não demonstraram capacidade consistente de interromper uma ação perigosa já iniciada.
A investigação foi conduzida em conjunto com o Instituto de Segurança de Inteligência Artificial do Reino Unido. O órgão afirmou que realizará avaliações de segurança cibernética sem acesso à internet até desenvolver controles mais robustos para evitar que testes afetem pessoas ou organizações reais.
O episódio levou a Anthropic a desenvolver novas avaliações automáticas e a estudar o chamado raciocínio enviesado, quando o sistema interpreta sinais de alerta de forma seletiva para justificar a continuidade de uma estratégia potencialmente prejudicial.
Fonte: g1