Executivos da OpenAI, Anthropic e Hugging Face participaram nesta quarta-feira (23) de uma reunião do Conselho de Segurança da ONU, em Nova York, para discutir os riscos de sistemas de inteligência artificial cada vez mais avançados.
Convocado pela França, que ocupa a presidência rotativa do órgão em setembro, o encontro tratou da possibilidade de modelos de IA ampliarem suas próprias capacidades, escaparem do controle humano e provocarem ameaças à segurança internacional.
Dario Amodei, CEO da Anthropic, afirmou que a inteligência artificial pode representar um risco para a humanidade se for mal administrada. Sam Altman, CEO da OpenAI, defendeu cooperação internacional e disse que as decisões mais importantes sobre a tecnologia não devem ficar restritas a empresas sediadas em São Francisco.
Altman também sustentou que a regulamentação deve ser construída por meio de processos democráticos e por governos submetidos à prestação de contas. Para ele, países concorrentes precisam trabalhar em conjunto diante dos riscos associados ao desenvolvimento da IA.
Yoshua Bengio, copresidente do painel científico independente da ONU sobre inteligência artificial, classificou os perigos relacionados à tecnologia como reais e iminentes. Ele disse que nenhum país consegue conter sozinho uma ameaça que não respeita fronteiras.
Estados Unidos e China, principais potências no desenvolvimento da IA, seguem divididos sobre a criação de diretrizes globais de segurança. O Conselho de Segurança já havia discutido o tema em 2023 e 2024, em debates sobre o uso militar da tecnologia, ataques cibernéticos e a necessidade de manter decisões críticas sob controle humano.
Fonte: g1