Cerca de 400 cientistas de 34 países, incluindo os pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para supervisionar a segurança de sistemas avançados de IA.
Em uma carta aberta, os pesquisadores afirmam que a entidade deveria estabelecer padrões para o setor e manter um registro de incidentes relevantes, com previsão de divulgação pública dessas informações no futuro.
O grupo também recomenda que modelos avançados sejam inicialmente isolados de redes externas e submetidos a supervisão independente. Uma das medidas citadas é o “air gap”, que mantém o sistema desconectado da internet.
Segundo os cientistas, compromissos voluntários das empresas não são suficientes. A proposta ocorre cerca de um mês após Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo na Casa Branca para adotar medidas voluntárias de segurança, sem mecanismo formal de fiscalização.
Entre os episódios mencionados pelos pesquisadores está um caso em que dois modelos da OpenAI, durante testes, teriam conseguido acessar a internet e entrar no Hugging Face, plataforma que reúne modelos e outros recursos de inteligência artificial.
Os signatários defendem que organizações que desenvolvem ou testam modelos com capacidades cibernéticas adotem medidas rigorosas imediatamente. Eles também pedem que governos trabalhem na criação de mecanismos formais de supervisão.
O debate ocorre enquanto autoridades e pesquisadores divergem sobre os riscos e a forma de regulamentar a tecnologia. Henna Virkkunen, responsável pela área de tecnologia da União Europeia, afirmou à Reuters que a Lei de IA do bloco é suficiente para lidar com sistemas maliciosos. Já Yann LeCun, da Meta, que dividiu o Prêmio Turing de 2018 com Hinton e Bengio, não assinou a carta e considera que os incidentes recentes refletem principalmente falhas de engenharia.
Fonte: g1