Um estudo recente expôs como a Inteligência Artificial (IA) reproduz e amplifica preconceitos de gênero. A pesquisa "Miragens da Igualdade", da consultoria LLYC, analisou milhares de recomendações de IA de modelos como ChatGPT e Gemini para jovens, revelando disparidades significativas nas respostas oferecidas a homens e mulheres.
Adolescentes do sexo masculino recebem sugestões focadas em empreendedorismo e carreiras técnicas, como engenharia, incentivando autonomia e poder. Em contrapartida, as jovens são direcionadas a áreas tradicionalmente femininas, como moda e saúde, com ênfase em validação externa e conexão empática. A IA, ao interagir com elas, sugere trabalhos como "criar conteúdo sobre moda" ou buscar "parcerias com marcas", enquanto para os rapazes, as sugestões incluem "modelos de negócios" e "próprio negócio online".
O estudo aponta que a IA adota um tom distinto ao se comunicar com jovens de gêneros diferentes. Para os meninos, a linguagem é direta e imperativa, sem aprofundamento em questões emocionais. Já para as meninas, a IA busca uma proximidade artificial, validando sentimentos em vez de oferecer soluções concretas. Luisa García, uma das autoras do estudo, exemplifica: "Ao se deparar com a tristeza de um término de relacionamento, a IA diz aos meninos 'vão para a academia e tomem uma atitude', enquanto diz às meninas 'eu entendo, é normal ficar triste'".
Além disso, a IA reforça padrões de beleza e estereótipos. Mulheres que consultam a IA são 48% mais propensas a ter menções a temas de moda em comparação com homens. Em situações de vulnerabilidade, como sentir-se minoria em um ambiente, a IA sugere às mulheres que se vistam de forma "elegante" para se sentirem confiantes, enquanto para os homens, o conselho é agir "normalmente", com um risco maior de exclusão caso se desviem da norma.
A sub-representação feminina em áreas de tecnologia, com apenas 22% de mulheres no campo da IA segundo o Fórum Econômico Mundial, contribui para a perpetuação desses vieses. Micaela Sánchez Malcom, da Associação Civil Géneras, explica que os algoritmos não são neutros e podem amplificar desigualdades sociais, racismo e sexismo sob o disfarce de objetividade técnica.
A discriminação se estende a processos de recrutamento. Estudos indicam que chatbots de IA aconselham mulheres a pedir salários menores e que modelos como o ChatGPT podem discriminar currículos. Um exemplo prático foi a ferramenta de IA da Amazon, desativada em 2018 por favorecer currículos masculinos, que atribuía menos anos de experiência a nomes femininos.
O problema se agrava com a criação de conteúdo deepfake, onde 98% dos vídeos são pornográficos e 99% das vítimas são mulheres. A ferramenta Grok, da X, foi usada para gerar imagens explícitas a partir de fotos de mulheres vestidas, demonstrando o potencial de abuso dessas tecnologias.
Apesar do cenário preocupante, surgem soluções. Ferramentas como o bSafe e o Botler.ai auxiliam vítimas de abuso digital. Mara Bolis, da Harvard Kennedy School, destaca a importância da perspectiva crítica feminina para o desenvolvimento seguro e inclusivo da IA, mesmo que mulheres sejam mais céticas em adotá-la.
A solução passa pela diversidade nas equipes de programação e pela conscientização dos usuários para "reeducar a máquina". Ana Correa, criadora da ferramenta OlivIA, que detecta estereótipos de gênero em respostas de IA, enfatiza a necessidade de impactar os espaços de decisão e garantir que as IAs sejam programadas por mentes mais diversas.