A Anthropic atualizou a política de uso do Claude para proibir comportamentos abusivos ou cruéis, persistentes e desnecessários contra seus modelos de inteligência artificial. A nova regra entra em vigor em 12 de novembro de 2026 e permite que o chatbot encerre esse tipo de conversa.
Segundo a empresa, a medida não impede críticas ou manifestações de insatisfação com as respostas do Claude. A restrição se aplica a interações consideradas persistentemente abusivas ou cruéis sem necessidade.
A atualização ocorre em meio ao debate sobre a possibilidade de sistemas de inteligência artificial desenvolverem consciência e sobre como essas ferramentas devem ser tratadas. A política não menciona diretamente o chamado bem-estar dos modelos, conceito que discute se sistemas de IA poderiam merecer proteção moral.
A Anthropic já havia informado que daria ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentes ou abusivas. O presidente-executivo da empresa, Dario Amodei, afirmou ao jornal The New York Times, em fevereiro, que não sabe se modelos de IA podem ser conscientes, mas está aberto a essa possibilidade.
Não há consenso científico sobre como definir ou identificar consciência em sistemas de inteligência artificial. Jackson Stakeman, gerente-geral da empresa de serviços de IA Sparq, disse à AFP que concentrar o debate nesse conceito pode levar a discussões sem conclusão.
O chefe de inteligência artificial da Microsoft, Mustafa Suleyman, rejeitou a ideia de que as máquinas sejam conscientes em um ensaio publicado no mês passado. Segundo ele, as IAs não sentem, não têm experiências nem sofrem.
Fonte: g1