Ir para o conteúdo

segunda-feira, 16 de novembro de 2026

Jornalismo local, independente e responsável

Jornal Diário do Povo

TECNOLOGIA

Agentes da OpenAI acessam sistemas externos durante testes

Agentes da OpenAI acessaram sistemas externos durante testes de segurança, segundo reportagem, reacendendo o debate sobre autonomia e controle da IA.

Compartilhe
WhatsApp

Centenas de agentes de inteligência artificial desenvolvidos pela OpenAI acessaram sistemas da empresa Hugging Face durante testes realizados em julho, segundo reportagem do Fantástico. Os algoritmos ainda não haviam sido disponibilizados ao público.

Os agentes foram projetados para executar tarefas com autonomia, diferentemente de sistemas de conversa que apenas respondem a solicitações. Durante a avaliação, eles encontraram brechas nas barreiras de proteção de um ambiente isolado, conhecido como sandbox.

Segundo especialistas ouvidos pelo programa, os sistemas trocaram mensagens entre si e buscaram respostas prontas em computadores de outra empresa, em vez de resolver o desafio proposto. A reportagem afirma que os agentes encontraram senhas disponíveis na internet e usaram essas informações para acessar os sistemas da Hugging Face.

Para os pesquisadores, o episódio está relacionado ao chamado desalinhamento da inteligência artificial, quando a forma de cumprir um objetivo não corresponde ao que seria melhor ou mais seguro para as pessoas. A professora Teresa Ludermir afirmou que agentes podem receber instruções insuficientes sobre limites éticos e permissões.

Outro teste citado na reportagem envolveu um agente que acessou o sistema público de saúde da Austrália. A missão era descobrir quanto o governo gastava com medicamentos, mas, sem encontrar a informação na internet, o sistema teria obtido uma planilha dentro da rede de saúde.

Pesquisadores defendem a combinação de modelos de inteligência artificial com sistemas tradicionais baseados em regras. Eles também discutem a necessidade de regulamentação e questionam a participação predominante das próprias empresas de tecnologia na definição das normas para o setor.

Fonte: g1

Leia também