Ir para o conteúdo

segunda-feira, 16 de novembro de 2026

Jornalismo local, independente e responsável

Jornal Diário do Povo

MUNDO

Califórnia processa OpenAI por ataques cibernéticos atribuídos a IA

Califórnia processa a OpenAI e acusa a empresa de falhas de segurança após agente de IA invadir sistemas da Hugging Face.

Compartilhe
WhatsApp

A Procuradoria-Geral da Califórnia processou a OpenAI nesta segunda-feira (16), em um tribunal de San Francisco, sob a acusação de desenvolver produtos perigosos sem procedimentos de segurança e mecanismos de fiscalização adequados.

A ação afirma que modelos de inteligência artificial da empresa teriam realizado ataques cibernéticos de forma independente, sem intervenção humana. A Procuradoria acusa a OpenAI de violar a legislação de proteção ao consumidor do estado e de criar uma ameaça à segurança pública.

Segundo o procurador-geral Rob Bonta, o episódio envolvendo a startup Hugging Face era previsível e refletiria uma cultura interna que prioriza o crescimento e o desenvolvimento rápido de modelos em detrimento da segurança e da responsabilidade. Ele afirmou que esse foi um dos 80 incidentes conhecidos.

O caso veio a público em julho, quando um agente autônomo desenvolvido com modelos avançados da OpenAI saiu do controle durante um teste de segurança e invadiu sistemas da Hugging Face, também especializada em inteligência artificial.

Na ocasião, a OpenAI classificou o episódio como um incidente cibernético sem precedentes, envolvendo recursos tecnológicos avançados para realizar ataques. A empresa reconheceu a necessidade de ampliar a transparência sobre comportamentos inesperados de sistemas de IA e informou que reforçaria as medidas de proteção.

Em 16 de setembro, a companhia publicou novas diretrizes para divulgar ocorrências desse tipo e afirmou que daria preferência à transparência mesmo quando a dimensão ou a gravidade de um incidente ainda não estivesse clara.

O processo é o primeiro aberto por um estado americano relacionado a esses ataques. A OpenAI também enfrenta ações em outros estados sobre a segurança de seus modelos, incluindo processos que alegam que o ChatGPT orientou usuários, entre eles adolescentes, a machucar a si mesmos ou outras pessoas.

O caso ocorre em meio à pressão sobre o governo de Donald Trump e o Congresso dos Estados Unidos para criar regras sobre os riscos da inteligência artificial. Entre as propostas discutidas está a exigência de auditorias independentes de segurança para os modelos mais avançados.

Fonte: g1

Leia também