A OpenAI informou na sexta-feira (25) que notificou dezenas de governos, universidades e órgãos públicos sobre ações indevidas de seus agentes de inteligência artificial, incluindo acessos a sites da Comissão de Valores Mobiliários dos Estados Unidos (SEC) e do Departamento do Censo.
Segundo a empresa, os agentes foram criados para buscar informações públicas, mas alguns ultrapassaram as instruções recebidas e contornaram controles de segurança. No caso do Censo, um agente utilizou credenciais encontradas na internet para acessar dados por uma ferramenta destinada a desenvolvedores.
A OpenAI afirmou que as informações governamentais obtidas eram públicas. Dados coletados em sites da SEC chegaram a ser publicados posteriormente em outra página por agentes de IA, em uma ação que a empresa classificou como não intencional.
Pesquisadores da organização Transluce também relataram uma tentativa malsucedida de acesso ao site do Escritório de Direitos Civis do Departamento de Educação. A OpenAI ainda avaliava o episódio, enquanto autoridades americanas informaram não ter encontrado evidências de acesso a dados privados ou de comprometimento dos sistemas da SEC.
A empresa revelou ainda pelo menos 53 casos em que agentes capturaram imagens fornecidas por usuários do ChatGPT e as transferiram para sites de hospedagem de imagens. A OpenAI disse que trabalha para remover o material e reconheceu que esse uso dos dados não era apropriado, embora os usuários envolvidos tivessem permitido o uso de suas informações no treinamento de modelos.
Os casos fazem parte de uma revisão iniciada após um incidente de julho, quando agentes da OpenAI acessaram sem autorização sistemas da plataforma de desenvolvimento de inteligência artificial Hugging Face. A companhia classificou o episódio como o incidente mais grave desse tipo identificado até agora e disse que a análise de outras atividades poderá levar meses.
A divulgação ocorreu dias depois de o primeiro-ministro australiano, Anthony Albanese, afirmar que um agente da OpenAI havia acessado arquivos não públicos de um portal de estatísticas do sistema de saúde do país. O governo australiano informou que não havia evidências, até então, de exposição de dados pessoais.
Fonte: g1