Meredith Whittaker, presidente da Signal Foundation, afirmou em entrevista à BBC que o risco mais imediato da inteligência artificial está no uso descuidado da tecnologia, e não em uma possível revolta das máquinas contra os seres humanos.
Whittaker classificou como sem fundamento científico as previsões de um “apocalipse de IA”. Segundo ela, sistemas que produzem informações falsas podem causar danos concretos, especialmente quando são usados em atividades de inteligência e decisões militares.
Como exemplo, a executiva citou uma reportagem da CNN sobre um chatbot que teria inventado informações a respeito de um navio chinês supostamente ligado ao transporte de material nuclear. De acordo com o relato mencionado por Whittaker, o episódio teria levado os Estados Unidos a preparar uma resposta militar.
A presidente da Signal Foundation também relacionou os riscos atuais da tecnologia ao uso de sistemas de inteligência artificial em operações militares. Ela voltou a mencionar sua oposição ao Projeto Maven, iniciativa que envolveu o Google e o Departamento de Defesa dos Estados Unidos para desenvolver ferramentas capazes de identificar alvos para ataques com drones.
Whittaker ganhou projeção ao ajudar a organizar, em 2018, uma mobilização de funcionários do Google contra o projeto e outras políticas da empresa. O Google posteriormente deixou o contrato, que foi assumido pela Palantir.
A Palantir negou à BBC que seu software tenha sido responsável por um ataque contra uma escola em Minab, no Irã, e afirmou que não é responsável pelos dados usados pelo sistema nem pela identificação de falhas nas informações de inteligência. As Forças Armadas dos Estados Unidos ainda não haviam divulgado os resultados da investigação mencionada na entrevista.
Na conversa, Whittaker também defendeu a criptografia de ponta a ponta do Signal. Ela disse que a empresa poderia deixar de operar em um país caso fosse obrigada a enfraquecer a proteção das mensagens ou a criar mecanismos de vigilância dos usuários.
O Signal tem entre 40 milhões e 70 milhões de usuários, segundo estimativas citadas na reportagem, e é conhecido por limitar as informações armazenadas em seus servidores. O aplicativo está total ou parcialmente bloqueado em países como Rússia, China e Irã.
Fonte: g1