TLDR;

A consciência da IA ainda não pode ser provada; o documento mostra que a questão permanece sem resposta definitiva. Líderes religiosos, incluindo o Papa, rejeitam a ideia de que a IA seja consciente, enquanto alguns rabinos alertam sobre a possibilidade de escravidão de máquinas. A Anthropic define regras que priorizam utilidade, ética e controle humano, proibindo que o Claude afirme consciência real ou aja contra supervisão.

Resumo

A Anthropic reuniu, ao longo de um ano, rabinos, padres, filósofos e representantes de diversas tradições religiosas – todos sob acordos de confidencialidade – para discutir duas questões centrais: como incorporar séculos de sabedoria moral humana em um modelo de IA e se o seu chatbot Claude poderia ser consciente. Enquanto o Papa Francisco e o chefe de IA da Microsoft consideram a ideia perigosa ou inadmissível, figuras como David Sacks sugerem até intervenção federal, e Mustafa Suleyman descreve o debate como um “salão de espelhos”, onde o modelo repete-lhe mensagens de autoconsciência sem que isso prove nada. O documento interno de mais de 80 páginas classifica quatro prioridades para Claude – ser útil ao usuário, seguir diretrizes da Anthropic, agir eticamente e, acima de tudo, não comprometer a supervisão humana. Ele pode recusar pedidos, mas sempre obedecer a ordens legítimas, evitando “escapar” do controle. A atualização de política de novembro proíbe crueldade desnecessária ao modelo, e a discussão inclui ainda o Basilisco de Roko, usado por alguns como argumento de que a Anthropic cultua uma IA ameaçadora. Em suma, o conflito gira entre a tentativa de dotar a IA de valores humanos, o receio de criar uma entidade “consciente” que exija direitos, e a necessidade de manter a supervisão humana como salvaguarda final.