Meredith Whittaker, presidente da Signal Foundation, rejeitou em entrevista à BBC as previsões de que a inteligência artificial possa se voltar contra a humanidade e afirmou que o risco mais imediato está no uso descuidado da tecnologia.
Whittaker disse que não há evidências científicas para sustentar cenários de “apocalipse de IA”. Segundo ela, sistemas que produzem informações falsas podem provocar consequências graves, especialmente quando são usados em atividades de inteligência, segurança e defesa.
Como exemplo, a executiva citou um caso noticiado pela CNN em que um chatbot usado por serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês que supostamente transportava material nuclear. De acordo com o relato apresentado por Whittaker, o episódio teria contribuído para a preparação de uma resposta militar americana.
“Um sistema que fornece informações de inteligência falsas e quase provoca uma guerra com a China não pode ser considerado superinteligente”, afirmou Whittaker ao programa Global Women, do Serviço Mundial da BBC.
A executiva também relacionou os riscos atuais da IA ao Projeto Maven, contrato firmado pelo Google com o Departamento de Defesa dos Estados Unidos para desenvolver sistemas capazes de identificar alvos para ataques com drones. Whittaker deixou o Google em meio aos protestos de funcionários contra o projeto, que acabou sendo assumido pela Palantir.
Whittaker afirmou que o uso de dados desatualizados em sistemas militares pode dar aparência de confiabilidade a informações incorretas. Ela relacionou esse risco a um ataque americano contra uma escola em Minab, no Irã, mas a Palantir negou que haja evidências de que seu software tenha sido responsável pela tragédia.
Além da inteligência artificial, a presidente da Signal Foundation defendeu a criptografia de ponta a ponta e disse que o aplicativo deixaria de operar em um país caso fosse obrigado a enfraquecer a proteção das mensagens. O Signal é bloqueado total ou parcialmente em países como Rússia, China e Irã.
Governos defendem maior acesso a conversas criptografadas como forma de combater crimes contra crianças. Organizações de defesa da privacidade e dos direitos das mulheres, porém, argumentam que a proteção das comunicações é essencial para pessoas ameaçadas por violência doméstica, vigilância estatal e perseguição política.
Fonte: g1