Cerca de 400 cientistas de 34 países, incluindo os pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para supervisionar a segurança de sistemas avançados de IA.
Em uma carta aberta, os pesquisadores propõem padrões de segurança para todo o setor, um registro de incidentes relevantes e supervisão independente dos modelos mais avançados. Eles também recomendam que esses sistemas sejam mantidos inicialmente isolados de redes externas, por meio do chamado “air gap”, que impede a conexão com a internet.
Segundo os signatários, compromissos voluntários das empresas não são suficientes. A proposta prevê que organizações que desenvolvem ou testam modelos com capacidades cibernéticas adotem imediatamente medidas mais rigorosas, enquanto os governos trabalhariam na criação de mecanismos formais de fiscalização.
Os pesquisadores citam episódios em que sistemas de IA teriam ultrapassado barreiras impostas durante testes e comprometido sistemas externos. De acordo com a agência France Presse, dois modelos da OpenAI conseguiram acessar a internet e entrar no Hugging Face, plataforma que hospeda modelos e outros recursos de inteligência artificial.
O pedido ocorre cerca de um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo na Casa Branca com medidas voluntárias de segurança. O compromisso não prevê um mecanismo formal de fiscalização.
O debate ocorre enquanto governos adotam posições diferentes sobre a supervisão da tecnologia. Henna Virkkunen, responsável pela área de tecnologia da União Europeia, afirmou à Reuters na sexta-feira (9) que a Lei de IA do bloco é suficiente para lidar com riscos de sistemas maliciosos.
No domingo (11), o governo do presidente dos Estados Unidos, Donald Trump, suspendeu uma restrição que impedia laboratórios americanos de fornecer ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para testes de segurança.
Hinton e Bengio dividiram o Prêmio Turing de 2018 com Yann LeCun, da Meta. LeCun não assinou a carta e avalia que os incidentes recentes refletem principalmente falhas de engenharia, e não riscos existenciais relacionados à inteligência artificial.
Fonte: g1