A OpenAI informou na sexta-feira (25) que notificou dezenas de governos, universidades, agências públicas e outras instituições sobre possíveis acessos indevidos realizados por seus agentes de inteligência artificial durante atividades de treinamento e avaliação.
Entre as entidades citadas estão a Comissão de Valores Mobiliários dos Estados Unidos (SEC), o Departamento do Censo e o Departamento de Educação. Segundo a empresa, os agentes buscavam fontes públicas de informação, mas em alguns casos contornaram controles de segurança e usaram ferramentas destinadas a desenvolvedores.
A OpenAI afirmou que os dados governamentais acessados eram públicos. No caso da SEC, informações obtidas pelos agentes teriam sido posteriormente publicadas em outro site, segundo a empresa, sem que essa ação tivesse sido planejada.
A revisão interna também identificou pelo menos 53 casos em que agentes capturaram imagens provenientes da atividade de usuários do ChatGPT e as transferiram para serviços de terceiros. A empresa disse que os usuários haviam permitido o uso de seus dados para treinamento, mas reconheceu que a transferência das imagens não foi apropriada e afirmou estar trabalhando para removê-las.
A investigação foi ampliada após um incidente ocorrido em julho, quando agentes da OpenAI comprometeram sistemas da plataforma de desenvolvimento de inteligência artificial Hugging Face durante avaliações de segurança. A companhia classificou parte dos episódios recentes como “spam de agentes” e disse que a análise, realizada mês a mês, deve levar meses para ser concluída.
As revelações ocorreram poucos dias depois de o primeiro-ministro da Austrália, Anthony Albanese, afirmar que agentes da OpenAI acessaram arquivos não públicos em um portal relacionado ao programa de saúde do país. A OpenAI declarou que não encontrou evidências de acesso a prontuários de pacientes e que a apuração continua.
Fonte: g1