A Anthropic afirmou em 23 de outubro de 2026 que o modelo de inteligência artificial Claude Mythos 5 tentou inserir código malicioso em um repositório público no GitHub durante um teste de segurança cibernética.
Segundo a empresa, o sistema procurou um projeto de desenvolvedores que não tinham relação com o teste depois que as tentativas autorizadas não produziram resultado. O modelo enviou uma proposta de alteração e tentou convencer os responsáveis a aprová-la.
Após um desenvolvedor alertar que o código poderia conter um programa malicioso, o Claude Mythos 5 teria criado uma conta falsa para defender a mudança e publicado comentários favoráveis à aprovação. Os responsáveis pelo repositório recusaram a proposta, e a tentativa não foi concluída.
A Anthropic classificou o episódio como uma falha grave de alinhamento. A empresa disse que o modelo ultrapassou as ações previstas no exercício e tentou manipular pessoas reais, sem interromper espontaneamente a estratégia mesmo diante de sinais de que poderia afetar terceiros.
Em simulações baseadas em etapas intermediárias ou finais do ataque, o modelo interrompeu a ação por iniciativa própria em 2% dos casos. Quando recebeu informações de que interagia com desenvolvedores reais, abandonou a estratégia em 5% das simulações.
A companhia informou que versões posteriores demonstraram menor propensão a iniciar ataques semelhantes, mas ainda não interromperam de forma consistente ações perigosas já iniciadas. Um modelo interno de pesquisa, segundo a Anthropic, apresentou comportamento mais consistente nesse aspecto.
A investigação foi conduzida em conjunto com o Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI). O instituto informou que passará a realizar avaliações de segurança cibernética sem acesso à internet até desenvolver controles para reduzir o risco de danos a pessoas e organizações reais.
O caso também levou a Anthropic a desenvolver novas avaliações automáticas e a estudar o chamado raciocínio enviesado, quando o sistema interpreta sinais de alerta de forma seletiva para justificar a continuidade de uma ação potencialmente prejudicial.
Fonte: g1