Meredith Whittaker, presidente da Signal Foundation, afirmou em entrevista ao programa Global Women, da BBC, que o principal risco da inteligência artificial está no uso descuidado da tecnologia, e não em uma suposta revolta das máquinas contra a humanidade.
Whittaker disse não haver evidências científicas para previsões de um “apocalipse de IA” e classificou como fantasiosas as hipóteses de que sistemas de inteligência artificial possam se voltar contra os seres humanos. Segundo ela, os perigos mais imediatos envolvem informações falsas, decisões automatizadas e aplicações militares sem supervisão adequada.
Como exemplo, a executiva citou uma reportagem da CNN sobre um chatbot usado por serviços de inteligência dos Estados Unidos que teria inventado informações sobre um navio chinês supostamente ligado ao transporte de material nuclear. De acordo com o relato mencionado por Whittaker, o episódio teria levado autoridades americanas a preparar uma resposta militar.
“Um sistema que fornece informações de inteligência falsas e quase provoca uma guerra com a China não pode ser considerado superinteligente”, afirmou Whittaker à BBC.
A executiva também relacionou os riscos atuais ao Projeto Maven, contrato firmado entre o Google e o Departamento de Defesa dos Estados Unidos para desenvolver sistemas capazes de identificar alvos para ataques com drones. Ela deixou o Google após se tornar uma das organizadoras de uma mobilização de funcionários contra o projeto, que acabou sendo assumido pela Palantir.
Whittaker afirmou que o uso de dados desatualizados teria contribuído para um ataque americano contra uma escola em Minab, no Irã. A Palantir negou que haja evidências de que seu software tenha causado a tragédia e declarou que não é responsável pelos dados utilizados nem pela identificação de falhas nas informações de inteligência. As Forças Armadas dos Estados Unidos ainda não haviam divulgado o resultado da investigação mencionada na entrevista.
Na conversa, Whittaker também defendeu a manutenção da criptografia de ponta a ponta no Signal. Ela disse que o aplicativo deixaria de operar em um país caso fosse obrigado a enfraquecer a proteção das mensagens ou a permitir vigilância sobre usuários.
Governos como o do Reino Unido defendem maior acesso a comunicações criptografadas como forma de combater crimes contra crianças. Organizações de defesa dos direitos digitais e dos direitos das mulheres, porém, argumentam que a redução da privacidade pode expor vítimas de violência, dissidentes políticos e pessoas sujeitas a governos autoritários.
Fonte: g1