TLDR;

Para incorporar insights de tradições morais antigas na formulação da "constituição" e do "persona" de Claude, já que a Anthropic reconheceu que suas equipes sozinhas não tinham sabedoria suficiente para resolver dilemas éticos complexos. O papa, na encíclica Magnifica Humanitas, pediu que a IA fosse "desarmada" e advertiu contra a imposição opaca e unilateral do poder algorítmico, afirmando que poder técnico não confere automaticamente o direito de governar. A iniciativa levanta preocupações sobre quem define os valores dos chatbots, o risco de "ethics washing" e a influência de normas religiosas sobre sistemas que já moldam respostas para centenas de milhões de pessoas num cenário com pouca regulamentação.

Resumo

Em resposta ao desafio de tornar chatbots moralmente confiáveis, a Anthropic convidou cerca de quinze pensadores religiosos e éticos para aconselhar sobre a "constituição" do Claude — um conjunto de princípios usados para orientar e treinar o comportamento do modelo — reconhecendo que suas equipes internas não têm sabedoria moral suficiente para abranger todos os casos possíveis. As consultas, inicialmente com teólogos cristãos e depois ampliadas a representantes de judaísmo, hinduísmo, sikhismo, mormonismo e ortodoxia grega, visaram transformar regras rígidas em uma “persona” com disposição para agir bem, e não apenas em uma lista de proibições. O debate ocorre num contexto mais amplo: o papa publicou uma encíclica pedindo desarmamento algorítmico e questionando poder técnico sem legitimidade moral, enquanto críticos alertam para riscos de “ethics washing”, falta de responsabilização e incentivos comerciais que moldam práticas reais. Defensores veem sinceridade nas reuniões, mas reconhecem ambiguidades sobre implementação e seguimento. Especialistas expressam preocupação com a influência religiosa no discurso técnico — que pode tornar decisões mais tribais e emocionalmente carregadas — e com a ausência de regulamentos claros; o episódio evidencia tanto a busca por sabedoria moral antiga quanto os limites de confiar instituições religiosas para governar tecnologias emergentes no futuro imediato e incerto.