A Anthropic anunciou nesta terça-feira (8) uma medida cautelosa para o lançamento de seu mais recente modelo de inteligência artificial, o Mythos. O acesso à tecnologia será restrito a um grupo seleto de grandes empresas de tecnologia, incluindo Amazon, Apple, Microsoft e Cisco. A decisão visa evitar que o modelo seja utilizado para facilitar ataques cibernéticos antes que desenvolvedores possam testá-lo e identificar vulnerabilidades em seus próprios sistemas.
Através da iniciativa Project Glasswing, as empresas parceiras terão a oportunidade de avaliar o Mythos em seus produtos. O objetivo é que o conhecimento adquirido sobre as potenciais falhas de segurança seja compartilhado entre os participantes, fortalecendo a defesa coletiva contra ameaças virtuais.
A Anthropic não tem planos de disponibilizar o Mythos ao público geral no momento. Os resultados dos testes do Project Glasswing serão fundamentais para determinar as salvaguardas necessárias antes de um lançamento mais amplo.
A preocupação com o uso indevido de IA sofisticada por criminosos e hackers patrocinados por Estados tem crescido no setor de tecnologia. Modelos avançados podem ser usados para explorar falhas em códigos-fonte e burlar defesas cibernéticas.
Relatos internos da Anthropic indicam que o Mythos Preview demonstrou capacidade de identificar e explorar vulnerabilidades em sistemas operacionais e navegadores web. Embora as explorações não fossem comuns, em um caso o sistema desenvolveu uma exploração de navegador que encadeou quatro vulnerabilidades.
Newton Cheng, líder de segurança cibernética da equipe Frontier Red Team da Anthropic, destacou que o problema afeta toda a indústria e que o Project Glasswing busca dar uma "vantagem inicial aos defensores".
A Anthropic já compartilhou informações sobre as capacidades de segurança do Mythos com autoridades dos Estados Unidos, incluindo a Agência de Segurança Cibernética e Infraestrutura (CISA) e o Instituto Nacional de Padrões e Tecnologia (NIST).
Apesar de ser um modelo de IA de uso geral, o Mythos já contribuiu para a descoberta de diversos problemas de segurança, como um bug de 27 anos em software crítico da internet e uma vulnerabilidade de 16 anos em um software de vídeo popular, que havia passado despercebida por ferramentas de teste automatizado.
O acesso ao Mythos será rigorosamente controlado pelos membros do Project Glasswing, segundo Dianne Penn, chefe de gestão de produto para pesquisa na Anthropic. A existência do modelo foi revelada previamente por um vazamento de informações.
Fonte: oglobo.globo.com