Mrinank Sharma, pesquisador da equipe de segurança da Anthropic, anunciou sua demissão na semana passada com um grave alerta. Em sua carta de demissão, Sharma expressou crescentes preocupações com os riscos da inteligência artificial (IA), armas biológicas e uma série de crises globais interconectadas.
"O mundo está em perigo. E não apenas por causa da inteligência artificial ou das armas biológicas, mas por causa de toda uma série de crises interligadas que estão se desenrolando neste exato momento", escreveu Sharma em sua conta no X.
Fundada em 2021 por ex-dissidentes da OpenAI, a Anthropic surgiu como uma resposta ao rápido avanço comercial da empresa de Sam Altman, que supostamente negligenciava o desenvolvimento seguro da IA. Dario Amodei, fundador da Anthropic, defende a ideia de uma "IA constitucional", que embuta princípios éticos nos modelos de IA.
No entanto, Sharma afirmou que empresas como a Anthropic enfrentam pressões para negligenciar valores éticos. "Vi repetidamente como é difícil deixar que nossos valores realmente governem nossas ações", disse ele, alertando que essas companhias "enfrentam constantemente pressões para deixar de lado o que é mais importante".
Sharma liderava uma equipe focada em segurança de IA, investigando temas como IA generativa, bioterrorismo e o impacto da IA na humanidade. Embora não tenha apontado perigo imediato em modelos específicos da Anthropic, ele decidiu abandonar completamente a carreira na área para se dedicar ao estudo de poesia e escrita.
"Vou voltar para o Reino Unido e ficar invisível por um tempo", declarou.
A saída de Sharma ocorre em um contexto de crescente tensão na indústria de IA. Após o lançamento do ChatGPT em 2022, empresas do setor passaram a receber investimentos bilionários, intensificando a pressão pelo avanço comercial em detrimento da segurança. Preocupações com segurança já haviam levado à remoção e posterior retorno de Sam Altman ao cargo de CEO da OpenAI, além da saída de cofundadores importantes.
Dias antes, Zoe Hitzig, pesquisadora da OpenAI, também pediu demissão por discordar da inserção de anúncios comerciais no ChatGPT. Ela expressou receio sobre a indústria, comparando os riscos ao impacto das redes sociais. A rivalidade entre Anthropic e OpenAI se intensificou recentemente, com um comercial da Anthropic criticando os anúncios da OpenAI no ChatGPT.
O Globo