Meredith Whittaker, presidente da Signal Foundation, rejeitou as previsões de que a inteligência artificial possa se voltar contra a humanidade e afirmou, em entrevista à BBC, que os riscos mais imediatos estão no uso descuidado da tecnologia.
Whittaker disse que não há evidências científicas para sustentar cenários de “apocalipse de IA”. Segundo ela, sistemas que produzem informações falsas podem influenciar decisões graves, inclusive na área militar.
Como exemplo, a executiva citou um caso relatado pela CNN em que um chatbot usado por serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês supostamente ligado ao transporte de material nuclear. De acordo com o relato mencionado por Whittaker, o episódio teria levado autoridades americanas a preparar uma resposta militar.
Para a presidente da Signal Foundation, um sistema que fornece dados incorretos e pode contribuir para o risco de um conflito não deve ser descrito como superinteligente. Ela defendeu maior cautela na adoção de ferramentas de IA em atividades que envolvam segurança nacional.
Whittaker também relembrou sua atuação contra o Projeto Maven, contrato firmado entre o Google e o Departamento de Defesa dos Estados Unidos para desenvolver sistemas capazes de identificar alvos para ataques com drones. Em 2018, ela ajudou a organizar um protesto de funcionários da empresa; o contrato acabou sendo assumido pela Palantir.
A executiva relacionou o projeto a um ataque americano contra uma escola em Minab, no Irã, que teria usado informações de inteligência desatualizadas. A Palantir negou que existam evidências de que seu software tenha causado a tragédia e afirmou que não é responsável pelos dados utilizados nem pela identificação de falhas nas informações.
Na entrevista, Whittaker também defendeu a preservação da criptografia de ponta a ponta do Signal. Ela afirmou que o aplicativo deixaria de operar em um país caso fosse obrigado a enfraquecer a proteção das mensagens ou a permitir vigilância sobre usuários.
Governos como o do Reino Unido defendem ampliar o acesso a comunicações privadas como forma de combater crimes contra crianças. Organizações de proteção infantil, por outro lado, afirmam que criminosos usam plataformas criptografadas para aliciar vítimas, enquanto entidades de defesa dos direitos das mulheres consideram o Signal uma ferramenta de segurança em situações de vigilância e violência.
Fonte: g1