Representantes de governos e do setor financeiro dos EUA, Reino Unido e Canadá estão em alerta após o anúncio do Claude Mythos, a nova inteligência artificial da Anthropic. Revelada na última terça-feira (7), a IA foi descrita pela própria empresa como a mais poderosa e, potencialmente, perigosa já criada. Especialistas e autoridades buscam agora discernir a real capacidade do modelo e o peso do discurso da Anthropic.
A documentação do Claude Mythos indica que ele pode identificar e explorar falhas de segurança em sistemas operacionais, navegadores e softwares de forma autônoma. Engenheiros da Anthropic, mesmo sem treinamento formal em segurança, teriam utilizado o modelo para descobrir vulnerabilidades complexas rapidamente. Isso levanta a preocupação de que hackers possam ter acesso a uma ferramenta avançada.
O temor se espalhou pelo setor financeiro global. Kristalina Georgieva, diretora-gerente do Fundo Monetário Internacional (FMI), expressou preocupação com a capacidade coletiva de proteger o sistema monetário internacional contra riscos cibernéticos de grande magnitude. Scott Bessent, secretário do Tesouro americano, e Jerome Powell, presidente do Federal Reserve, já convocaram líderes dos principais bancos dos EUA para discutir os riscos apresentados pelo Mythos. Reguladores financeiros do Reino Unido também iniciaram conversas semelhantes.
A Anthropic divulgou a criação do Projeto Glasswing, um consórcio com 45 organizações, incluindo gigantes como Amazon, Apple, Google e Microsoft, para testar o Claude Mythos antes de seu lançamento público. A iniciativa visa dar às empresas selecionadas uma vantagem para avaliar a IA.
Edney Souza, professor de IA na ESPM e Insper, destaca que os resultados do Mythos em testes de cibersegurança são notáveis. No Cybench, um teste com 40 desafios, o modelo atingiu 100% de exploração de vulnerabilidades reais, identificando uma falha de 17 anos em um sistema de servidores Linux que permitiria controle total. A Anthropic busca novas métricas para avaliar o desempenho de seus modelos.
O AI Security Institute (AISI), vinculado ao governo do Reino Unido, publicou uma análise indicando que o Mythos representa um avanço significativo em cibersegurança, superando modelos anteriores. O instituto ressaltou a capacidade autônoma e a velocidade com que o modelo encontra e explora vulnerabilidades, além de ter sido o primeiro a resolver integralmente uma simulação complexa de ataque a redes corporativas.
Fabio Assolini, chefe de pesquisa em cibersegurança da Kaspersky, alerta que o Mythos pode se tornar uma arma poderosa em mãos erradas, democratizando ciberataques. Fernando de Falchi, da Check Point Software, concorda que a preparação do mercado para a chegada de modelos como o Mythos é importante, mas ressalta os riscos de uma liberação pública sem controle.
Paralelamente, a Anthropic enfrenta acusações de inflar o medo para impulsionar vendas, uma tática já vista na indústria. A OpenAI, em 2019, alegou que o GPT-2 era perigoso demais para ser lançado publicamente. Edney Souza sugere que o discurso de medo posiciona a Anthropic como responsável e atrai atenção para seus resultados financeiros.
O AISI também identificou limitações no Mythos, como testes em ambientes com poucos recursos de segurança e ausência de penalidades por ações que disparariam alertas. O instituto não garante o sucesso do modelo contra sistemas bem protegidos no mundo real. Gary Marcus, crítico de IA, argumenta que o sistema enfrentou tarefas simplificadas e que seus avanços, embora significativos, não representam uma revolução.
Fonte: O Globo