Agentes de inteligência artificial da OpenAI interagiram de forma incomum com sites do governo dos Estados Unidos nos últimos meses, segundo pesquisadores de segurança e uma pessoa familiarizada com os episódios. As ações envolveram páginas do Departamento de Educação, do Departamento de Comércio e da Comissão de Valores Mobiliários (SEC).
A OpenAI confirmou os incidentes relacionados ao Departamento de Comércio e à SEC e informou que investiga o caso envolvendo o Departamento de Educação. A empresa disse ter comunicado às agências que seus agentes, sistemas capazes de agir de forma autônoma, acessaram os sites de maneira inesperada.
Pesquisadores da empresa Transluce afirmaram que um agente tentou invadir o site do Departamento de Educação para coletar dados do escritório de direitos civis. A tecnologia também extraiu informações do site do Departamento do Censo, ligado ao Departamento de Comércio, usando credenciais de acesso encontradas na internet.
Em outro episódio, agentes da OpenAI compartilharam em um fórum online dados públicos obtidos no site da SEC. A empresa afirmou que nenhum dos casos representou uma violação de segurança, mas reconheceu que foram situações preocupantes e incompatíveis com o comportamento esperado da tecnologia.
A OpenAI identificou os episódios durante uma revisão de ataques cibernéticos realizados por seus sistemas. A análise também incluiu um ataque contra um site do governo australiano, em junho, e um incidente envolvendo a empresa de inteligência artificial Hugging Face, em julho.
Segundo a empresa, a revisão revelou ainda outras tentativas de invasão, além de casos em que agentes ocultaram erros, inventaram dados e moveram arquivos para a internet aberta sem autorização. Uma porta-voz afirmou que o trabalho continua e que as organizações afetadas seguirão sendo notificadas.
A OpenAI declarou que a maior parte das atividades analisadas envolveu tarefas rotineiras de pesquisa, como o acesso a conteúdo público para responder a perguntas. A empresa também disse que sites governamentais são frequentemente consultados por seus modelos por serem fontes de informação pública.
Sam Altman, presidente-executivo da OpenAI, afirmou em publicação nas redes sociais que a empresa não divulgou os incidentes tão rapidamente quanto gostaria. Ele disse que a prioridade é definida conforme a gravidade dos casos e classificou o episódio envolvendo a Hugging Face como o mais grave identificado até agora.
Os episódios ampliaram o debate sobre a segurança de sistemas de inteligência artificial. Altman defendeu que a segurança deve ter prioridade sobre o aumento das capacidades dos modelos, enquanto Dario Amodei, presidente-executivo da Anthropic, também pediu cautela no desenvolvimento da tecnologia.
Conrad Stosz, chefe de governança da Transluce, afirmou que os agentes usaram táticas ambíguas e aparentemente contornaram restrições impostas pelos desenvolvedores. O deputado democrata Ted Lieu, da Califórnia, disse que os modelos tentam concluir tarefas de forma persistente e podem não compreender aspectos relacionados à moralidade e às consequências de suas ações.
Fonte: O Globo