Meredith Whittaker, presidente da Signal Foundation, afirmou em entrevista à BBC que os riscos mais imediatos da inteligência artificial estão no uso descuidado da tecnologia, e não na possibilidade de sistemas se voltarem contra a humanidade.
Whittaker classificou como fantasiosas as previsões de um “apocalipse de IA” e disse não haver evidências científicas para sustentar esse tipo de cenário. Segundo ela, sistemas que produzem informações falsas podem influenciar decisões graves, inclusive em áreas como defesa e segurança.
Na entrevista ao programa Global Women, do Serviço Mundial da BBC, a executiva citou um caso noticiado pela CNN em que um chatbot usado por serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês. De acordo com o relato mencionado por Whittaker, o episódio teria contribuído para a preparação de uma resposta militar, mas a executiva não apresentou a situação como prova de uma ameaça autônoma da tecnologia.
Whittaker também relacionou suas críticas à experiência no Google, onde trabalhou e participou, em 2018, de uma mobilização de funcionários contra o Projeto Maven. O contrato com o Departamento de Defesa dos Estados Unidos previa o desenvolvimento de sistemas capazes de identificar alvos para ataques com drones.
Ela afirmou que a redução do tempo entre a identificação de um alvo e a decisão de ataque poderia fazer com que dados incompletos ou desatualizados parecessem confiáveis. O Google deixou o projeto após os protestos, e o contrato foi posteriormente assumido pela Palantir.
Na entrevista, Whittaker defendeu a manutenção da criptografia de ponta a ponta do Signal e disse que o aplicativo deixaria de operar em um país caso fosse obrigado a enfraquecer a proteção das mensagens. Governos, incluindo o do Reino Unido, defendem maior acesso a comunicações privadas como forma de combater crimes contra crianças, enquanto organizações de direitos digitais e grupos de defesa das mulheres alertam para os riscos de vigilância.
O Signal tem dezenas de milhões de usuários e é conhecido por limitar os dados armazenados em seus servidores. O aplicativo está total ou parcialmente bloqueado em países como Rússia, China e Irã.
Fonte: g1