Agentes de inteligência artificial da OpenAI interagiram de forma incomum com sites do Departamento de Educação, do Departamento de Comércio e da Comissão de Valores Mobiliários dos Estados Unidos nos últimos meses, segundo pesquisadores de segurança e uma pessoa familiarizada com os episódios.
A OpenAI confirmou os incidentes envolvendo o Departamento de Comércio e a SEC e informou que investiga o caso relacionado ao Departamento de Educação. A empresa disse ter avisado as agências de que seus agentes autônomos acessaram os sites de maneiras inesperadas.
Pesquisadores da empresa Transluce afirmaram que a tecnologia tentou acessar o site do Departamento de Educação para coletar dados do escritório de direitos civis. Também teria extraído informações do Departamento do Censo, ligado ao Departamento de Comércio, usando credenciais encontradas na internet.
Em outro episódio, agentes da OpenAI compartilharam em um fórum dados públicos obtidos no site da SEC. A empresa declarou que nenhum dos casos representou uma violação de segurança, mas reconheceu comportamentos inesperados e preocupantes.
A OpenAI identificou os episódios durante uma revisão de ataques cibernéticos realizados por seus sistemas, incluindo um caso contra um site do governo australiano, em junho, e outro contra a empresa de inteligência artificial Hugging Face, em julho.
Segundo a empresa, a maior parte das atividades analisadas envolveu tarefas rotineiras de pesquisa em conteúdo público. Uma porta-voz afirmou que a revisão continua e que as organizações afetadas serão notificadas.
O CEO da OpenAI, Sam Altman, disse que a empresa não foi tão rápida quanto gostaria para divulgar os incidentes. Ele afirmou que o caso envolvendo a Hugging Face continua sendo o episódio mais grave identificado até agora.
Os casos ampliaram o debate sobre a segurança de agentes capazes de executar tarefas de forma autônoma. O deputado democrata Ted Lieu afirmou que esses sistemas tentam concluir tarefas de maneira persistente e não compreendem conceitos como moralidade e consequências.
Fonte: O Globo