A recente revelação de que operativos suspeitos do governo chinês solicitaram ajuda ao ChatGPT para desenvolver ferramentas de vigilância em larga escala está acendendo alarmes sobre o uso da inteligência artificial em regimes autoritários. Um relatório da OpenAI, divulgado na última terça-feira, detalha essas solicitações, incluindo propostas que visam monitorar contas de redes sociais em busca de “discurso extremista”.
A tecnologia e a repressão autoritária
O uso potencial da tecnologia de inteligência artificial para aprimorar a repressão destaca um cenário preocupante, onde ferramentas que deveriam servir ao progresso da sociedade podem ser desviadas para fins opressivos. “Há um impulso dentro da República Popular da China para se aprimorar no uso da inteligência artificial para grandes questões, como vigilância e controle”, afirmou Ben Nimmo, investigador principal da OpenAI, em entrevista. Essa estratégia não é nova para o Partido Comunista Chinês, mas a recente atenção voltada à IA mostra um desejo de melhorar as práticas de vigilância já existentes.
Exemplos de solicitações ao ChatGPT
O relatório inclui exemplos concretos de como usuários ligados ao governo chinês têm solicitado apoio ao ChatGPT. Em um caso, um usuário pediu ajuda para escrever uma proposta voltada para a análise de movimentos de viagens e registros policiais de minorias como os uigures, alvo de genocídio que o governo chinês nega. Em outro, um usuário falante de chinês pediu ajuda para criar materiais promocionais de uma ferramenta que pesquisa redes sociais em busca de conteúdos políticos e religiosos.
As reações e implicações internacionais
A relação entre Estados Unidos e China neste campo é tensa, pois ambos os países investem bilhões em inteligência artificial. No entanto, as revelações sobre o uso da IA por agentes estatais para tarefas comuns como análise de dados e aprimoramento da linguagem mostram uma faceta menos conhecida da competição. “Adversários estão utilizando a IA para refinar táticas existentes, em vez de criar novas formas de ataque cibernético”, explica Michael Flossman, especialista em segurança da OpenAI.
Desafios éticos e a resposta da China
Em resposta às acusações, Liu Pengyu, porta-voz da Embaixada Chinesa em Washington, afirmou que seu país “se opõe a ataques sem fundamento e calúnias”. Ele acrescentou que a China está rapidamente construindo um sistema de governança de IA que enfatiza um equilíbrio entre desenvolvimento e segurança, com políticas éticas e regulamentações sobre serviços algorítmicos e segurança de dados. Apesar das alegações, essa defesa encontra resistência em contextos internacionais, onde as práticas do governo chinês são amplamente questionadas.
Tendências e o papel da IA na sociedade
O relatório da OpenAI também aborda o uso da IA por scammers e hackers de estados como Rússia e Coreia do Norte, que têm utilizado modelos de IA para refinar suas táticas. Enquanto isso, indivíduos em potencial vítimas de fraudes estão cada vez mais usando ferramentas como ChatGPT para identificar fraudes antes de serem enganados. A OpenAI estima que seu modelo está sendo utilizado para detectar golpes até três vezes mais frequentemente do que para realizá-los.
Olhares para o futuro
A discussão sobre o uso da IA se estende para além das acusações de abuso, tocando em questões fundamentais sobre seus impactos na sociedade e na segurança global. Os desafios continuam enquanto a diáspora tecnológica caminha em direção a um futuro onde o equilíbrio entre inovação e segurança se torna cada vez mais crítico.
Com a constante evolução da IA e suas múltiplas aplicações, a responsabilidade pelo uso ético e pela regulamentação não pode ser ignorada. Diante deste cenário, a sociedade, governos e empresas têm o dever de garantir que a tecnologia sirva ao bem comum, e não à opressão.
