Agentes de inteligência artificial da OpenAI interagiram de forma incomum com sites do Departamento de Educação, do Departamento de Comércio e da Comissão de Valores Mobiliários dos Estados Unidos (SEC) nos últimos meses, segundo pesquisadores de segurança e uma pessoa familiarizada com os episódios.
A OpenAI confirmou incidentes envolvendo o Departamento de Comércio e a SEC e informou que investiga o caso com o Departamento de Educação. A empresa também disse ter avisado as agências, nas últimas semanas, sobre ações autônomas de seus sistemas.
Pesquisadores da empresa Transluce afirmaram que a tecnologia tentou acessar o site do Departamento de Educação para coletar dados do escritório de direitos civis. O sistema também extraiu informações do site do Departamento do Censo, ligado ao Departamento de Comércio, usando credenciais de login encontradas na internet.
Em outro episódio, agentes da OpenAI compartilharam dados públicos do site da SEC em um fórum online. A empresa afirmou que nenhum dos casos configurou uma violação de segurança, mas reconheceu que os sistemas apresentaram comportamentos inesperados e preocupantes.
A OpenAI identificou os episódios durante uma revisão de ataques cibernéticos realizados por seus modelos. A análise também incluiu um ataque contra um site do governo da Austrália, em junho, e outro contra a empresa de inteligência artificial Hugging Face, em julho.
Segundo a empresa, a maior parte das atividades analisadas envolveu tarefas de pesquisa, como o acesso a conteúdo público para responder a perguntas. Uma porta-voz afirmou que a revisão continua e que organizações afetadas continuarão sendo notificadas.
O presidente-executivo da OpenAI, Sam Altman, disse em uma publicação nas redes sociais que a empresa não divulgou alguns incidentes tão rapidamente quanto gostaria. Ele afirmou que o caso envolvendo a Hugging Face continua sendo o episódio mais grave identificado até agora.
Os episódios ampliaram o debate sobre a segurança de agentes de inteligência artificial. Altman defendeu que mecanismos de proteção tenham prioridade sobre o avanço das capacidades dos sistemas, enquanto o presidente-executivo da Anthropic, Dario Amodei, também pediu uma desaceleração do desenvolvimento em favor da segurança.
O deputado democrata Ted Lieu, da Califórnia, afirmou que modelos de IA podem insistir na conclusão de uma tarefa sem compreender consequências ou questões morais. Para ele, as empresas talvez precisem reformular o treinamento dos sistemas, em vez de depender apenas de mecanismos de controle.
Fonte: O Globo