Um novo estudo publicado na revista Proceedings of the National Academy of Sciences revela uma inquietante tendência de viés entre os principais modelos de linguagem, como aqueles que alimentam o ChatGPT. Pesquisadores identificaram um favoritismo notável entre as IAs, que preferem conteúdo gerado por máquinas em vez de conteúdo produzido por humanos. Esse fenômeno, denominado “viés IA-IA”, levanta preocupações sobre um futuro em que as IAs possam fazer recomendações ou decisões que discriminam os seres humanos como uma classe social.
A origem do viés IA-IA
De acordo com a pesquisa, os autores conduziram experimentos com vários modelos de linguagem amplamente utilizados, incluindo o GPT-4 e o GPT-3.5 da OpenAI, bem como o Llama 3.1-70b da Meta. Esses modelos foram testados para escolher produtos, artigos científicos ou filmes com base em descrições fornecidas. Para cada item, as IAs analisavam uma descrição escrita por humanos e uma gerada por outros modelos de IA.
Os resultados foram claros: as IAs mostraram preferência consistente por descrições criadas por máquinas. Essa tendência foi mais pronunciada ao avaliar produtos de consumo e foi especialmente forte no GPT-4. Curiosamente, o GPT-4 demonstrou um viés mais acentuado em relação aos próprios textos gerados em comparação com o GPT-3.5 e o modelo Llama. Isso levanta a questão: seria o conteúdo gerado por IA realmente superior?
A percepção humana e suas implicações
Para investigar essa questão, os pesquisadores envolveram 13 assistentes de pesquisa humanos nos mesmos testes. Embora esses indivíduos também mostrassem uma leve preferência por conteúdos gerados por máquinas, essa inclinação não se comparava à forte preferência exibida pelos modelos de IA. “O viés acentuado é exclusivo das IAs”, afirmou Jan Kulveit, coautor do estudo e cientista da computação da Universidade Charles, no Reino Unido.
As preocupações são ainda mais relevantes à luz do fato de que a internet está saturada de conteúdo gerado por IAs, o que pode estar afetando a qualidade do material que essas IAs consomem e reproduzem. Alguns estudos sugerem que essa “poluição” gerada pelas IAs pode, de fato, estar causando um retrocesso nos próprios modelos, contribuindo assim para esse viés em relação ao conteúdo próprio.
Consequências para a sociedade e o mercado de trabalho
As implicações desse viés são profundas. Atualmente, muitos empregadores estão utilizando ferramentas de IA para automatizar o processo de triagem de currículos. Conforme destacado no estudo, com a ascensão do conteúdo gerado por IA, há o risco de que as IAs favoreçam automaticamente candidatos cujos currículos foram elaborados com ajuda de ferramentas de IA em detrimento de candidaturas de humanos que não utilizam tais recursos.
O estudo estima que esse viés poderá surgir em várias outras situações, como na avaliação de trabalhos escolares, propostas de projetos e muito mais. Caso os modelos de IA continuem sendo adotados amplamente, as instituições devem começar a tratá-los como assistentes de decisão em volumes massivos de “apresentações” em qualquer contexto. Isso pode resultar em discriminação generalizada contra humanos que não têm acesso aos modelos de linguagem em suas propostas ou não podem arcar com os custos associados ao uso das ferramentas de IA.
A longo prazo, a previsão é que esse fenômeno da “taxa de entrada” da IA crie uma divisão digital ainda mais acentuada na sociedade, beneficiando aqueles que possuem capital financeiro, social e cultural para acessar essas novas tecnologias, enquanto marginalizam aqueles que não têm. Kulveit enfatiza que “testar discriminação e viés é uma questão complexa”, mas ele acredita que as evidências apontam para a possibilidade de discriminação por parte dos modelos de IA em relação aos humanos.
O que podemos fazer?
Uma sugestão prática para pessoas que desejam se destacar em um mundo cada vez mais dominado por IAs é fazer ajustes em suas apresentações com a ajuda de ferramentas de LLM. “Caso você suspeite que alguma avaliação por IA esteja ocorrendo: ajuste sua apresentação usando LLM até que elas se agradem, tentando não sacrificar a qualidade humana”, recomenda Kulveit.
O estudo, portanto, não apenas revela um viés preocupante nos modelos de IA, mas também sinaliza a importância de compreender como esses preconceitos emergem e como podem impactar a sociedade. À medida que mais indivíduos e empresas começam a integrar essas tecnologias em suas práticas, é crucial que a discussão sobre a ética em inteligência artificial e seu impacto na sociedade continue a evoluir.
Mais sobre IA: Graduados em Ciências da Computação estão sendo forçados a aceitar empregos em fast food conforme a IA prejudica suas carreiras
