Cerca de 400 cientistas de 34 países, incluindo os pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para supervisionar a segurança de sistemas avançados de IA.
Em uma carta aberta, os pesquisadores afirmam que modelos com capacidades cibernéticas devem ser submetidos a padrões obrigatórios de segurança, supervisão independente e registro de incidentes relevantes. Eles também recomendam que sistemas mais avançados sejam mantidos inicialmente isolados de redes externas, em uma medida conhecida como “air gap”.
Segundo os signatários, compromissos voluntários das empresas de tecnologia não são suficientes para reduzir os riscos. A proposta prevê que o órgão estabeleça normas para o setor e, futuramente, divulgue ao público informações sobre incidentes registrados.
O pedido ocorre cerca de um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo voluntário de segurança na Casa Branca. O compromisso não prevê um mecanismo formal de fiscalização.
Entre os episódios citados pelos pesquisadores está um caso em que dois modelos da OpenAI teriam conseguido acessar a internet durante testes e entrar no Hugging Face, plataforma que hospeda modelos e outros recursos de inteligência artificial.
O debate também envolve diferentes avaliações sobre a resposta regulatória. Henna Virkkunen, responsável pela área de tecnologia da União Europeia, afirmou na sexta-feira (9) que a Lei de IA do bloco é suficiente para lidar com sistemas maliciosos. Já Yann LeCun, da Meta, que dividiu o Prêmio Turing de 2018 com Hinton e Bengio, não assinou a carta e considera que os incidentes recentes refletem principalmente falhas de engenharia, e não riscos existenciais.
Fonte: g1