Meredith Whittaker, presidente da Signal Foundation, afirmou em entrevista à BBC que os riscos mais imediatos da inteligência artificial estão no uso descuidado da tecnologia, e não em um suposto cenário de máquinas se voltando contra a humanidade.
Whittaker classificou como sem fundamento científico as previsões de um “apocalipse de IA”. Segundo ela, sistemas que produzem informações falsas podem influenciar decisões graves, inclusive em áreas como inteligência militar e segurança internacional.
Na entrevista, ela mencionou um caso noticiado pela CNN em que um chatbot usado por serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês supostamente ligado ao transporte de material nuclear. Whittaker disse que o episódio quase provocou uma resposta militar americana contra a China, mas a informação não foi detalhada de forma independente no relato da BBC.
A executiva também relacionou o debate ao Projeto Maven, contrato firmado entre o Google e o Departamento de Defesa dos Estados Unidos para desenvolver sistemas capazes de identificar alvos para ataques com drones. O acordo provocou protestos de funcionários do Google em 2018 e acabou sendo assumido pela Palantir.
Whittaker afirmou que o uso de dados desatualizados e sistemas automatizados em operações militares pode dar aparência de confiabilidade a informações erradas. Ela associou esse risco a um ataque com mísseis dos Estados Unidos contra uma escola em Minab, no Irã, neste ano.
A Palantir negou à BBC que seu software tenha sido responsável pela tragédia e afirmou que não controla os dados utilizados pelo sistema nem é responsável por identificar falhas nas informações de inteligência. As Forças Armadas americanas ainda não divulgaram os resultados da investigação sobre o ataque, e o secretário de Defesa, Pete Hegseth, declarou que os militares não atacariam alvos civis.
Whittaker também defendeu a criptografia de ponta a ponta oferecida pelo Signal, aplicativo que tem entre 40 milhões e 70 milhões de usuários, segundo estimativas citadas pela BBC. Ela disse que a empresa deixaria de operar em um país caso fosse obrigada a enfraquecer a proteção das mensagens.
Governos como o do Reino Unido defendem maior acesso a conversas criptografadas como medida de proteção de crianças e mulheres. Organizações de defesa dos direitos das mulheres, porém, afirmam que o Signal pode ser uma ferramenta de segurança para pessoas expostas a vigilância estatal, violência doméstica e ataques cibernéticos.
O aplicativo está total ou parcialmente bloqueado em países como Rússia, China e Irã. A plataforma também é alvo de críticas de entidades de proteção infantil, que relatam o uso de serviços criptografados por criminosos para aliciar vítimas.
Fonte: g1