TLDR;

Porque modelos como LLMs apenas prevêem e geram sequências de texto estatisticamente plausíveis sem experiências subjetivas, emoções ou desejos. Eles operam como máquinas de continuação de sentença que escolhem palavra por palavra com base em padrões estatísticos do texto de treino, criando a ilusão de conversação e intenção. Seria preciso demonstrar agentes incorporados com sensores, necessidades e capacidades de sobrevivência e aprendizagem comparáveis a animais sociais, além de evidências técnicas intermediárias robustas, para considerar seriamente a possibilidade de consciência artificial.

Resumo

O texto critica a antropomorfização de modelos de linguagem grandes (LLMs), tomando como exemplo a “constituição” do Claude e declarações de executivos da Anthropic que sugerem que o sistema poderia ter emoções ou consciência. Argumenta-se que LLMs apenas realizam continuidade estatística de sentenças, produzindo personagens fictícios (como Júlio César ou um chatbot “útil”) sem subjetividade, e que a fluência textual alimenta ilusões de agência, incentivadas pelas empresas. Ao explicar o funcionamento — geração palavra a palavra via repetidas execuções — o autor compara chatbots a jogos de texto preditivo: envolventes, mas não conscientes. Textos convincentes são “deepfakes” linguísticos; a evidência isolada de conversas plausíveis não prova consciência. Para aceitar uma máquina consciente, seria necessário mostrar um histórico contextual robusto: agentes incorporados com sensores e corpos, habilidades de sobrevivência e resolução de novidades comparáveis a vertebrados, dinâmicas sociais complexas, capacidades de manufatura de ferramentas e comunicação não linguística ensinável, seguindo uma trajetória análoga à evolução. Sem esse contexto e sem provas extraordinárias, atribuir estados mentais ou responsabilidade moral aos LLMs é um erro que desloca responsabilidade humana e confunde riscos reais da tecnologia, e requer políticas, regulação e responsabilidade de desenvolvedores e usuários para mitigar danos e evitar ilusões sobre a natureza mental.