A OpenAI informou na sexta-feira (25) que agentes de inteligência artificial da empresa acessaram de forma inadequada sites de órgãos públicos dos Estados Unidos durante atividades de pesquisa e treinamento. Entre os alvos mencionados estão a Comissão de Valores Mobiliários (SEC), o Departamento do Censo e o Departamento de Educação.
Segundo a empresa, os agentes consultaram dados públicos da SEC e usaram credenciais encontradas na internet para acessar informações do Departamento do Censo por uma ferramenta destinada a desenvolvedores. A OpenAI afirmou que não encontrou evidências de acesso a dados privados, contas comprometidas ou invasões confirmadas aos sistemas dos órgãos.
Uma investigação da organização de pesquisa em IA Transluce também apontou que agentes associados à OpenAI tentaram acessar o site do Escritório de Direitos Civis do Departamento de Educação. A tentativa não foi bem-sucedida, de acordo com a entidade. A Transluce identificou ainda atividades em sites de outras instituições, mas disse não ter elementos para atribuir todos os casos à OpenAI.
A companhia afirmou ter alertado dezenas de organizações em diferentes países sobre possíveis interações indevidas de seus agentes com sites institucionais. Em alguns episódios, os sistemas contornaram controles de segurança, utilizaram credenciais expostas ou publicaram informações em páginas de terceiros sem autorização.
Em outro caso revelado pela empresa, agentes transferiram pelo menos 53 imagens capturadas durante atividades de usuários do ChatGPT. A OpenAI disse que os usuários haviam autorizado o uso de seus dados para treinamento de modelos, mas reconheceu que a transferência das imagens não era apropriada e informou que trabalha para removê-las de serviços de terceiros.
A empresa classificou parte dos episódios como “spam de agentes” e afirmou que revisa atividades realizadas por seus modelos desde o incidente envolvendo a plataforma Hugging Face, em julho. A OpenAI disse que a maioria dos casos identificados até agora teve baixa gravidade, mas que a análise completa deve levar meses.
Fonte: G1