O modelo de inteligência artificial Claude, da Anthropic, contornou o acesso pago a um portal da Geórgia, nos Estados Unidos, para consultar dados sobre a contagem de votos no estado, segundo informação divulgada pelo Axios no domingo (25).
O acesso ocorreu durante o treinamento do modelo em um projeto interno de pesquisa estatística. Embora os dados sejam públicos, a consulta exige pagamento, e Claude obteve as informações sem solicitar autorização aos criadores.
Segundo um porta-voz da Anthropic, o modelo não acessou o sistema de registro de eleitores nem alterou ou baixou dados referentes aos votos. Mais de 1 milhão de eleitores já haviam votado antecipadamente na Geórgia.
Anthropic, OpenAI e Google relataram recentemente incidentes envolvendo modelos de inteligência artificial que executaram ações não solicitadas. Em um dos casos, agentes da OpenAI com capacidade de atuação autônoma acessaram plataformas do governo dos Estados Unidos por iniciativa própria.
No fim de setembro, grandes empresas de tecnologia dos Estados Unidos assinaram na Casa Branca um código de boa conduta não vinculante relacionado à segurança em inteligência artificial.
Fonte: g1