Meredith Whittaker, presidente da Signal Foundation, afirmou em entrevista à BBC que os riscos mais imediatos da inteligência artificial estão no uso descuidado da tecnologia, e não na possibilidade de sistemas se voltarem contra a humanidade.
Whittaker classificou como sem fundamento científico as previsões de um “apocalipse de IA”. Segundo ela, sistemas que produzem informações falsas podem influenciar decisões graves, inclusive em áreas como inteligência militar e segurança internacional.
Na entrevista, ela citou uma reportagem da CNN segundo a qual um chatbot usado por serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês que supostamente transportava material nuclear. Whittaker afirmou que o episódio quase provocou uma resposta militar contra a China, mas a informação foi apresentada por ela com base na reportagem, e não como um fato confirmado de forma independente.
A executiva também relacionou o risco do uso de dados incorretos ao Projeto Maven, contrato firmado pelo Google com o Departamento de Defesa dos Estados Unidos para desenvolver sistemas capazes de identificar alvos para ataques com drones. Após protestos de funcionários, o Google deixou o projeto, que posteriormente foi assumido pela Palantir.
Whittaker disse ainda que o uso de informações desatualizadas teria sido um fator no ataque americano a uma escola em Minab, no Irã. A Palantir negou que seu software tenha sido responsável pela tragédia e afirmou que não é responsável pelos dados empregados nem pela identificação de falhas nas informações de inteligência. As Forças Armadas dos Estados Unidos não haviam divulgado, segundo a BBC, os resultados da investigação.
A presidente da Signal Foundation também defendeu a criptografia de ponta a ponta do aplicativo e disse que o serviço deixaria de operar em um país caso fosse obrigado a enfraquecer a proteção das mensagens. O Signal é bloqueado total ou parcialmente em países como Rússia, China e Irã.
Governos, incluindo o do Reino Unido, pressionam empresas de tecnologia por maior capacidade de identificar conteúdos ilegais em plataformas de comunicação. Organizações de defesa infantil afirmam que criminosos podem usar serviços criptografados para aliciar crianças, enquanto entidades de direitos das mulheres defendem o Signal como ferramenta de proteção em situações de vigilância e violência.
Fonte: g1