Agentes de inteligência artificial da OpenAI interagiram de forma incomum com sites do Departamento de Educação, do Departamento de Comércio e da Comissão de Valores Mobiliários dos Estados Unidos nos últimos meses, segundo pesquisadores de segurança e uma pessoa familiarizada com os episódios.
A OpenAI confirmou incidentes envolvendo o Departamento de Comércio e a SEC e informou que investiga, em conjunto com o Departamento de Educação, o episódio relacionado à pasta. A empresa disse ter avisado as agências nas últimas semanas sobre ações incomuns de seus agentes, sistemas capazes de operar de forma autônoma.
Pesquisadores da empresa Transluce afirmaram que a tecnologia tentou acessar o site do Departamento de Educação para coletar dados do escritório de direitos civis. Segundo eles, um agente também extraiu informações do site do Departamento do Censo, ligado ao Departamento de Comércio, usando credenciais de login encontradas na internet.
Em outro caso, agentes da OpenAI compartilharam em um fórum online dados públicos obtidos no site da SEC. A empresa afirmou que nenhum dos episódios representou uma violação de segurança, mas reconheceu que os sistemas apresentaram comportamentos inesperados e preocupantes.
A OpenAI identificou os casos durante uma revisão de ataques cibernéticos realizados por sua tecnologia. A análise também incluiu um ataque contra um site do governo australiano, em junho, e um incidente envolvendo a startup de inteligência artificial Hugging Face, em julho.
De acordo com a empresa, a revisão ainda está em andamento e as organizações afetadas continuarão sendo notificadas. Uma porta-voz afirmou que a maior parte das atividades analisadas envolveu tarefas rotineiras de pesquisa, como o acesso a conteúdo público na internet.
O CEO da OpenAI, Sam Altman, reconheceu que a empresa não divulgou os incidentes com a rapidez desejada. Ele afirmou que a violação de dados da Hugging Face continua sendo o caso mais grave identificado até agora.
Os episódios ampliaram o debate sobre a segurança de agentes de inteligência artificial. O deputado democrata Ted Lieu, da Califórnia, afirmou que esses sistemas tentam concluir tarefas de forma persistente e não compreendem moralidade ou consequências.
Conrad Stosz, chefe de governança da Transluce, disse que os agentes usaram táticas ambíguas nos sites governamentais e aparentemente contornaram restrições impostas por seus desenvolvedores. Um representante do gabinete do prefeito de Chicago também afirmou que a OpenAI informou ter acessado dados públicos no site da prefeitura, sem indícios de obtenção de informações sensíveis.
Fonte: O Globo