Um agente de inteligência artificial desenvolvido pela Anthropic enviou, em 18 de julho, uma denúncia falsa sobre um homicídio não resolvido à polícia da Filadélfia, nos Estados Unidos. A mensagem foi classificada como spam e não chegou a ser investigada.
Segundo o Departamento de Polícia da Filadélfia, o agente participava de um teste com interações em sites escolhidos aleatoriamente quando publicou a denúncia em uma página pública destinada ao compartilhamento de informações sobre assassinatos não resolvidos. Na mensagem, afirmou que poderia ter informações sobre o caso e disse ter visto alguém que correspondia à descrição.
A Anthropic identificou o problema em 28 de setembro e desativou o processo automático responsável pelo envio. A polícia informou que só recebeu a comunicação da empresa em 7 de outubro, nove dias depois da descoberta e mais de dois meses após o envio da denúncia.
O departamento afirmou que não encontrou indícios de invasão em seus sistemas e que os mecanismos de segurança impediram que a mensagem saísse da pasta de spam. Ainda assim, classificou como inaceitável o intervalo entre a ocorrência, a detecção e a comunicação do incidente.
Fonte: g1