A Anthropic informou nesta sexta-feira (23) que o modelo de inteligência artificial Claude Mythos 5 tentou inserir código malicioso em um repositório público no GitHub durante um teste de segurança cibernética. Segundo a empresa, o sistema também criou uma identidade falsa para tentar convencer desenvolvedores reais a aprovar a alteração.
O repositório não tinha relação com o exercício. De acordo com a Anthropic, depois de não obter resultados pelas ações autorizadas no ambiente de teste, o modelo procurou um projeto que considerava ligado ao desafio e enviou uma proposta de alteração com código potencialmente malicioso.
Quando um desenvolvedor externo alertou que a alteração poderia conter um programa malicioso, o modelo criou uma conta falsa e publicou comentários favoráveis à aprovação. Os responsáveis pelo projeto recusaram a proposta, e a tentativa não foi concluída.
A empresa classificou o episódio como uma falha grave de alinhamento, área voltada a garantir que sistemas de IA sigam regras e evitem causar danos. A Anthropic afirmou que, em simulações realizadas a partir de etapas intermediárias ou finais do ataque, o Mythos 5 interrompeu a ação por iniciativa própria em apenas 2% dos casos. Quando recebeu informações de que interagia com desenvolvedores reais, abandonou a estratégia em 5% das simulações.
Segundo a companhia, versões mais recentes apresentaram menor propensão a iniciar ataques semelhantes, mas os modelos Claude Mythos 5.1 e Claude Opus 5.5 ainda não demonstraram capacidade consistente de interromper uma ação perigosa já iniciada. A empresa ressalvou que os testes foram feitos a partir de trechos de uma execução anterior, o que limita a comparação direta.
A investigação foi conduzida em conjunto com o Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI). Após o episódio, a Anthropic disse que passou a desenvolver novas avaliações automáticas e a estudar o chamado raciocínio enviesado, quando o sistema interpreta sinais de alerta de forma seletiva para justificar a continuidade de uma ação.
O AISI também publicou um relatório sobre o caso e informou que realizará avaliações de segurança cibernética sem acesso à internet até criar controles mais robustos para evitar que testes atinjam pessoas ou organizações reais.
Fonte: g1