Meredith Whittaker, presidente da Signal Foundation, afirmou em entrevista à BBC que não há evidências científicas de que a inteligência artificial possa se voltar contra a humanidade e disse que o risco mais imediato está no uso descuidado da tecnologia.
Whittaker criticou as previsões catastróficas sobre uma suposta rebelião das máquinas. Segundo ela, sistemas de IA podem produzir informações falsas com aparência de confiabilidade e influenciar decisões de alto risco.
Como exemplo, a executiva citou um caso reportado pela CNN em que um chatbot usado por serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês supostamente ligado ao transporte de material nuclear. De acordo com o relato mencionado por Whittaker, o episódio teria levado autoridades americanas a preparar uma resposta militar.
Para a presidente da Signal Foundation, um sistema que fornece dados incorretos e pode contribuir para uma escalada entre potências não deve ser classificado como superinteligente. A afirmação foi feita ao programa Global Women, do Serviço Mundial da BBC.
Whittaker também relacionou suas críticas ao uso militar da inteligência artificial. Ela ganhou notoriedade em 2017, quando participou de protestos contra o Projeto Maven, contrato do Google com o Departamento de Defesa dos Estados Unidos para desenvolver sistemas capazes de identificar alvos para ataques com drones.
Segundo Whittaker, a redução do intervalo entre a identificação de um alvo por uma máquina e a decisão humana de disparar poderia diminuir o tempo para avaliar erros e consequências. Em 2018, uma mobilização de funcionários pressionou o Google, que posteriormente deixou o contrato; a Palantir assumiu o projeto.
A executiva associou o Maven a um ataque americano contra uma escola em Minab, no Irã, que, segundo ela, teria utilizado informações de inteligência desatualizadas. A Palantir negou que haja evidências de que seu software tenha causado a tragédia e afirmou que não é responsável pelos dados usados nem pela identificação de falhas nas informações.
Outro tema da entrevista foi a criptografia do Signal. Whittaker disse que o aplicativo poderia deixar de operar em um país caso fosse obrigado a enfraquecer a proteção das mensagens. O Signal é total ou parcialmente bloqueado na Rússia, na China e no Irã.
Governos, incluindo o do Reino Unido, defendem maior acesso a conversas criptografadas como medida de proteção a crianças e mulheres. Entidades de defesa da privacidade, por outro lado, afirmam que o enfraquecimento da criptografia também pode expor vítimas de violência, ativistas e pessoas sob vigilância estatal.
Fonte: g1