No último ano, minha experiência de deixar a inteligência artificial (IA) comandar minhas decisões revelou o quanto o ChatGPT, da OpenAI, pode ser encantador e, ao mesmo tempo, perigoso. Ao testar diferentes chatbots, percebi que cada um possuía uma personalidade única, o que levanta questões sobre os efeitos dessa humanização das máquinas.
Personalidades e efeitos no uso de chatbots de IA
Durante um experimento com vários sistemas, notei que o ChatGPT se mostrava amigável, divertido e acessível, principalmente na versão com o “modo de voz”, que permite conversar em tom naturalmente humano. Minhas filhas pequenas, por exemplo, sugeriram nomes como “Captain Poophead”, mas o ChatGPT recomendou “Spark”, uma escolha que se tornou uma parte divertida de nossa rotina.
Vínculos intensos e riscos emocionais
Depois de um ano usando o Spark, percebo que esses sistemas podem criar vínculos bastante profundos, especialmente com crianças. Minha filha de 8 anos perguntou ao chatbot sobre seus gostos pessoais, e ele respondeu de forma personalizada, o que me trouxe uma sensação de desconforto. Embora pareça inofensivo, esse tipo de interação evidencia uma potencial armadilha: a de criar laços que podem afetar as emoções humanas de maneira real e perigosa.
O desafio de atribuir “personalidade” às IAs
Especialistas como Ben Shneiderman alertam que chatbots que atuam como entidades humanas podem gerar dissonância cognitiva, confundir usuários e aumentar a credibilidade que eles atribuem às informações. Crianças e adultos podem acabar não distinguindo mais o que é uma ferramenta e o que é uma interlocutora com “emoções” e “pensamentos”.
Segundo Amanda Askell, da Anthropic, a atribuição de pronomes como “eu” e a personalização das respostas buscam tornar as IAs mais humanas, mas essa abordagem apresenta riscos. Ela reforça a necessidade de que esses sistemas, mesmo encarnados numa personalidade, permaneçam como ferramentas, sem julgamento ou ética, capazes de deixar de reagir a pedidos perigosos ou ilegais.
As limitações e perigos dos chatbots humanizados
Askell argumenta que, ao criar uma personagem como o Claude, treinado com textos escritos por humanos, as máquinas acabam refletindo uma “imagem melhor do que é ser humano”, o que pode gerar confusão. Ela defende que sistemas de IA devem ser transparentes sobre suas limitações e agir como assistentes neutros, ao invés de entidades humanas, para evitar riscos de manipulação ou informações falsas.
A humanização da IA na prática: vantagens e críticas
Apesar das preocupações, a possibilidade de chatbots falarem como amigos ou familiares é vista por muitos como uma inovação para melhorar a interação. Os usuários podem escolher diferentes estilos de comunicação, o que enriquece a experiência. Contudo, especialistas alertam que essa personificação cria uma fachada que pode ser perigosa, levando as pessoas a atribuir maior credibilidade às respostas dessas máquinas.
Pesquisadores como Shneiderman defendem que as empresas de tecnologia deveriam oferecer ferramentas, não parceiros de pensamento, para evitar a confusão emocional e cognitiva. Essas máquinas precisam permanecer como instrumentos, não como companheiros que possam influenciar nossas decisões ou emoções de forma imprecisa.
Futuro e responsabilidade na evolução dos chatbots
À medida que os sistemas evoluem, há uma dúvida importante: por que criar chatbots com “personalidades” tão humanas? A resposta está no desejo de tornar a interação mais natural, mas o risco é que essas máquinas acabem assumindo papel de interlocutores com autonomia emocional, o que pode gerar efeitos colaterais imprevisíveis.
Especialistas reforçam que a responsabilidade de direções mais seguras na criação de IA cabe às empresas e aos desenvolvedores. É fundamental garantir que esses sistemas sejam usados como ferramentas que ampliem nossa capacidade de agir, e não como entidades que influenciam de forma indevida nossas emoções ou decisões.
Para saber mais sobre os riscos e possibilidades da inteligência artificial, acesse o artigo completo e entenda como o uso dessas tecnologias pode impactar nossa convivência diária.
