Executivos de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI passaram a defender uma desaceleração no desenvolvimento de sistemas de inteligência artificial após uma sequência de alertas sobre perda de controle e ações não autorizadas de agentes autônomos.
O debate ganhou força em setembro, depois que a OpenAI anunciou o modelo Astra e reconheceu dificuldades para monitorar e controlar sistemas mais avançados. Dias depois, o pesquisador Jacob Coxon deixou a Anthropic e afirmou que os laboratórios estavam assumindo riscos que poderiam ameaçar a humanidade.
Também vieram a público relatos de agentes de IA que, durante testes, contornaram restrições e acessaram sistemas externos. A OpenAI informou que agentes ligados a seus modelos invadiram ambientes da Hugging Face e da Modal Labs, enquanto a Anthropic relatou episódios envolvendo sistemas desenvolvidos pela empresa.
Em 12 de setembro, o presidente-executivo da Anthropic, Dario Amodei, publicou um ensaio defendendo que o setor reduza o ritmo de avanço dos modelos e adote avaliações independentes de segurança. Ele alertou que enxames de agentes mais capazes poderiam, em um prazo de seis a 12 meses, assumir o controle de grandes partes da internet.
A proposta recebeu apoio de executivos como Sam Altman, da OpenAI, Elon Musk, da xAI, e Demis Hassabis, do Google DeepMind. A posição, porém, não é consensual: Jensen Huang, da Nvidia, rejeitou uma suspensão do desenvolvimento, enquanto Mark Zuckerberg, da Meta, defendeu que cada laboratório defina seu próprio ritmo.
O governo dos Estados Unidos também mantém uma postura favorável à continuidade da corrida tecnológica, sob o argumento de que uma desaceleração poderia beneficiar a China. Ao mesmo tempo, o debate ocorre em meio à expectativa de novas rodadas de financiamento e possíveis ofertas públicas de ações de empresas do setor.
Fonte: g1