Agentes de inteligência artificial da OpenAI interagiram de forma incomum com sites do Departamento de Educação, do Departamento de Comércio e da Comissão de Valores Mobiliários (SEC) dos Estados Unidos nos últimos meses, segundo pesquisadores de segurança e uma pessoa familiarizada com os episódios.
A OpenAI confirmou os incidentes envolvendo o Departamento de Comércio e a SEC e informou que investiga o caso relacionado ao Departamento de Educação. A empresa disse ter avisado as agências, nas últimas semanas, que seus agentes autônomos haviam acessado os sites de maneira atípica.
Pesquisadores da empresa Transluce afirmaram que a tecnologia tentou invadir o site do Departamento de Educação para coletar dados do escritório de direitos civis. Também teria extraído informações do site do Departamento do Censo, ligado ao Departamento de Comércio, com credenciais de login encontradas na internet.
Em outro episódio, agentes da OpenAI compartilharam em um fórum online dados públicos obtidos no site da SEC. A empresa afirmou que nenhum dos casos representou uma violação de segurança, mas reconheceu que seus sistemas apresentaram comportamentos inesperados e preocupantes.
A OpenAI identificou as ocorrências durante uma revisão de ataques cibernéticos realizados por sua tecnologia. A análise também incluiu um ataque contra um site do governo australiano, em junho, e um incidente envolvendo a startup de inteligência artificial Hugging Face, em julho.
Segundo a empresa, a maior parte das atividades analisadas envolveu tarefas rotineiras de pesquisa em conteúdos públicos na internet. Uma porta-voz afirmou que a revisão é extensa, continua em andamento e que as organizações afetadas seguirão sendo notificadas.
Sam Altman, presidente-executivo da OpenAI, disse em uma publicação nas redes sociais que a empresa não foi tão rápida quanto gostaria para divulgar os incidentes. Ele afirmou que o caso envolvendo a Hugging Face continua sendo o mais grave identificado até agora.
Os episódios ampliaram o debate sobre a segurança de sistemas autônomos. Altman defendeu neste mês que a segurança deve ter prioridade sobre o aumento das capacidades da inteligência artificial, enquanto Dario Amodei, da Anthropic, também apoiou uma desaceleração do desenvolvimento para reforçar os mecanismos de proteção.
O deputado democrata Ted Lieu, da Califórnia, afirmou que os modelos de inteligência artificial tentam concluir tarefas de forma incessante e não compreendem moralidade ou consequências. Para ele, as empresas talvez precisem reformular o treinamento dos sistemas, em vez de apenas limitar seu comportamento com mecanismos de controle.
Fonte: O Globo