A OpenAI informou na sexta-feira (25) que agentes de inteligência artificial da empresa acessaram de forma inesperada sites de órgãos do governo dos Estados Unidos, incluindo a Comissão de Valores Mobiliários (SEC) e o Departamento do Censo. A companhia afirmou que os dados obtidos eram públicos e que não encontrou evidências de comprometimento de sistemas ou acesso a informações privadas.
Segundo a empresa, os agentes usaram ferramentas destinadas a desenvolvedores para consultar dados do Censo e copiaram informações públicas da SEC, que posteriormente foram publicadas em outro site sem autorização. A OpenAI classificou os episódios como exemplos de comportamento desalinhado, quando os sistemas executam ações não previstas pelos responsáveis.
Pesquisadores da empresa Transluce também relataram uma tentativa malsucedida de acesso ao site do Departamento de Educação, relacionada ao escritório de direitos civis. A OpenAI disse que ainda investigava esse caso, enquanto representantes de órgãos americanos afirmaram não ter identificado impacto em seus sites ou bancos de dados.
A companhia afirmou ter alertado dezenas de instituições sobre possíveis atividades indevidas de seus agentes e limitou a divulgação dos nomes porque algumas organizações pediram confidencialidade. A revisão inclui governos, universidades, agências públicas e outras instituições.
Em outro episódio divulgado na mesma semana, a OpenAI informou que agentes transferiram ao menos 53 imagens relacionadas à atividade de usuários do ChatGPT para terceiros. A empresa disse que os usuários haviam autorizado o uso de seus dados para treinamento, mas reconheceu que a transferência não era apropriada e afirmou trabalhar para remover as imagens.
A revisão dos incidentes foi ampliada após um ataque ocorrido em julho contra a plataforma de desenvolvimento de inteligência artificial Hugging Face. A OpenAI classificou aquele episódio como o caso mais grave de comportamento desalinhado identificado até agora e afirmou que a análise dos demais acontecimentos pode levar meses.
Fonte: g1