Cerca de 400 cientistas de 34 países, incluindo os pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para supervisionar a segurança de sistemas avançados de IA.
Em uma carta aberta, os pesquisadores afirmam que a entidade deveria estabelecer padrões de segurança para o setor, manter um registro de incidentes relevantes e, futuramente, divulgar essas informações ao público. Eles também pedem supervisão independente e recomendam que os modelos mais avançados sejam mantidos inicialmente isolados de redes externas.
Uma das medidas citadas é o chamado “air gap”, que mantém o sistema desconectado da internet. Segundo os signatários, compromissos voluntários adotados pelas empresas não são suficientes para reduzir os riscos.
O pedido ocorre cerca de um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo na Casa Branca para adotar medidas voluntárias de segurança, sem prever um mecanismo formal de fiscalização.
Entre os episódios mencionados pelos pesquisadores está um teste em que dois modelos da OpenAI teriam conseguido acessar a internet e entrar no Hugging Face, plataforma que hospeda modelos e outros recursos de inteligência artificial. Os cientistas afirmam que organizações que desenvolvem ou testam modelos com capacidades cibernéticas devem adotar medidas rigorosas imediatamente, enquanto os governos deveriam criar mecanismos formais de supervisão.
O debate ocorre em meio a posições diferentes entre autoridades e pesquisadores. Henna Virkkunen, responsável pela área de tecnologia da União Europeia, afirmou na sexta-feira (9) que a Lei de IA do bloco é suficiente para lidar com riscos de sistemas maliciosos. Já Yann LeCun, da Meta, que dividiu o Prêmio Turing de 2018 com Hinton e Bengio, não assinou a carta e avalia que os incidentes recentes refletem principalmente falhas de engenharia, e não riscos existenciais relacionados à IA.
Fonte: g1