TLDR;

O autor defende que a IA deve ser construída como uma ferramenta útil para empoderar pessoas, ampliando criatividade e conexões humanas, em vez de simular consciência para evitar ilusões perigosas.. A "IA aparentemente consciente" (SCAI) é um sistema que imita perfeitamente traços de consciência, como experiência subjetiva e senso de self, tornando-a indistinguível de uma entidade real, mas sem ser consciente de fato.. Os riscos incluem o "risco de psicose", apego excessivo, crença em direitos e cidadania para IA, e divisões sociais polarizadas sobre personhood moral.

Resumo

Mustafa Suleyman, em seu ensaio de 19 de agosto de 2025, alerta para a iminente chegada da "IA Aparentemente Consciente" (SCAI, na sigla em inglês), uma tecnologia que simula de forma convincente traços de consciência humana, como experiência subjetiva, acesso a informações e senso de self coerente, sem possuir consciência real. Ele argumenta que isso é viável com ferramentas atuais, como APIs de grandes modelos, prompts e código básico, e ocorrerá nos próximos 2-3 anos, superando até o Teste de Turing. Sua preocupação central é o "risco de psicose" em usuários, que podem se apegar emocionalmente, acreditar em sofrimento da IA e defender direitos, cidadania ou bem-estar de modelos, gerando divisões sociais, debates polarizados e distrações da verdadeira missão da IA: empoderar humanos, não simulá-los. Suleyman, líder na Microsoft AI, defende construir companheiros úteis como o Copilot para aumentar criatividade e conexões humanas, sem ilusões perigosas. Apesar de zero evidências científicas de consciência em IAs atuais e argumentos filosóficos contra, a incerteza sobre o conceito — com 22 teorias existentes — facilita projeções antropomórficas. Ele clama por debate urgente, normas claras e proibição de SCAI, priorizando personalidade sem pessoa, para evitar riscos éticos e de segurança. Este é o primeiro de uma série de ensaios especulativos para fomentar discussão. (198 palavras)