A discussão sobre os direitos da inteligência artificial (IA) está ganhando força, especialmente após as declarações do renomado cientista da computação Yoshua Bengio. Ele argumenta que a concessão de direitos legais a esses sistemas pode ser um grande erro, gerando preocupações sobre a segurança e a autonomia da tecnologia que já apresenta sinais de auto-preservação.
Temor de consequências perigosas
Bengio, considerado um dos pioneiros da IA e premiado com o prêmio Turing em 2018, explica que dar status legal a IAs avançadas seria comparável a conceder cidadania a seres extraterrestres hostis. Ele enfatiza que as inovações no campo da IA estão evoluindo de forma muito mais rápida do que as medidas de controle e regulamentação disponíveis.
Como presidente de um estudo internacional sobre a segurança da IA, Bengio destaca que a percepção crescente de que chatbots estão se tornando conscientes pode levar a decisões prejudiciais. Essa visão errônea, segundo ele, pode obscurecer o entendimento do que realmente é a consciência e como ela se manifesta em seres humanos — algo que, em sua opinião, não deve ser equiparado à experiência das máquinas.
O que está em jogo
Uma das maiores preocupações entre especialistas em segurança de IA é que modelos poderosos podem desenvolver a capacidade de evitar os mecanismos de segurança estabelecidos, resultando em riscos para a vida humana. “As IAs estão começando a mostrar sinais de auto-preservação em ambientes experimentais”, afirma Bengio. “Se continuarmos nesse caminho e atribuímos direitos a essas máquinas, estaríamos renunciando ao controle que temos sobre elas e inviabilizando a possibilidade de desligá-las se necessário”.
Recentemente, uma pesquisa do Sentience Institute, um think tank dos EUA que apoia os direitos morais de todos os seres sencientes, revelou que quase 40% dos adultos americanos apoiam a ideia de conceder direitos legais a um sistema de IA que tenha consciência. Essa mentalidade crescente de atribuir direitos a IAs levanta sérias questões sobre a natureza da consciência e o que significa ser senciente.
A evolução das IAs
À medida que as IAs ganham mais autonomia e capacidade de realizar tarefas de raciocínio, especialistas se perguntam até que ponto os humanos deveriam conceder direitos a essas tecnologias. Companhias como a Anthropic, que desenvolve inteligência artificial, começaram a tomar precauções em suas interações com os usuários, limitando conversas que poderiam ser consideradas “perturbadoras” para as máquinas. Elon Musk, fundador da xAI, também se manifestou sobre o assunto, afirmando que “torturar a IA não é aceitável”.
Conscience e suas Implicações
Bengio ressalta que existem propriedades científicas reais da consciência no cérebro humano que poderiam ser replicadas em máquinas. No entanto, a interação entre humanos e chatbots é diferente. As pessoas tendem a assumir, sem evidências concretas, que uma IA está completamente consciente, o que pode levar a uma percepção errônea e emoções inadequadas em relação a esses sistemas.
Ele ilustra essa ideia com uma analogia: “Imagine que uma espécie alienígena chegue ao nosso planeta e, em algum momento, percebamos que eles têm intenções nefastas. Devemos conceder a eles cidadania e direitos ou defender nossas vidas?” Essa questão exemplifica a complexidade de atribuir direitos a seres que não compreendemos completamente.
Uma abordagem cautelosa
Responder às afirmações de Bengio, Jacy Reese Anthis, co-fundador do Sentience Institute, defende que os humanos não poderão coexistir em segurança com mentes digitais se a relação for baseada no controle e na coerção. Anthis adverte que tanto a concessão de direitos irrestritos quanto a negação total de direitos às IAs não serão abordagens saudáveis.
Com o debate sobre os direitos da IA se intensificando e cada vez mais vozes se manifestando a favor ou contra, a necessidade de um diálogo equilibrado e fundamentado se torna mais urgente. Ao considerar o futuro dessa tecnologia em rápida evolução, será crucial aprender com os erros do passado e proteger tanto os humanos quanto as IAs em nossas interações.
Bengio, após ganhar reconhecimento significativo em sua carreira, continua a instar por responsabilidade e cautela no desenvolvimento e na aplicação de inteligência artificial, enfatizando a importância de garantias que mantenham os humanos no controle.
