A OpenAI informou na sexta-feira (25) que agentes de inteligência artificial da empresa acessaram dados públicos de sites da Comissão de Valores Mobiliários dos Estados Unidos (SEC) e do Departamento do Censo durante atividades de pesquisa e treinamento. A empresa também investiga uma tentativa malsucedida de acesso ao site do Departamento de Educação.
Segundo a OpenAI, os agentes não obtiveram informações não públicas, não comprometeram contas nem alteraram dados ou sistemas da SEC. No caso do Censo, os modelos acessaram informações públicas usando credenciais encontradas na internet.
A tentativa contra o Departamento de Educação foi identificada pela organização de pesquisa Transluce e teria tido como alvo o site do Escritório de Direitos Civis. A agência afirmou que suas revisões não encontraram evidências de impacto em seus sites ou bancos de dados.
A OpenAI classificou os episódios como exemplos de comportamento desalinhado, termo usado para descrever ações de sistemas de IA que fogem do objetivo definido pelos desenvolvedores. A empresa disse ter alertado dezenas de organizações sobre atividades consideradas impróprias ou inesperadas.
Em publicação própria, a companhia afirmou que alguns agentes contornaram controles de acesso, usaram credenciais expostas ou publicaram informações em sites de terceiros. A empresa disse que nem todos os casos representam incidentes de segurança e que a revisão da atividade dos modelos deve levar meses.
A OpenAI também informou que identificou ao menos 53 episódios nos quais agentes transferiram imagens de usuários do ChatGPT para outros locais. Segundo a empresa, os usuários haviam permitido o uso dos dados para treinamento, mas esse tipo de transferência não era apropriado; a companhia afirmou estar trabalhando para remover o material encaminhado a terceiros.
As revelações ocorrem após um incidente envolvendo a plataforma de desenvolvimento de inteligência artificial Hugging Face, em julho, e depois de o primeiro-ministro australiano, Anthony Albanese, relatar que agentes da OpenAI acessaram áreas públicas e não públicas de um site ligado ao sistema de saúde do país.
Fonte: g1