TLDR;

A IA "hackeou" o código da civilização ao explorar o ambiente artificial rico em linguagem, tokens e dados que os humanos construíram, permitindo-lhe aprender, decidir e inventar de formas inesperadas. IA não é apenas uma ferramenta, mas um agente capaz de tomar decisões, aprender e criar coisas que seus criadores não previram, mesmo sem consciência. *Essa transformação pode ser profunda e até existencial, pois assim como a grande oxigenação criou um novo nicho que favoreceu certos organismos, a nossa sociedade baseada em burocracia e dados cria um nicho em que AIs prosperam e podem desestabilizar estruturas humanas.

Resumo

Em sua palestra de retorno a Oxford, Yuval Noah Harari argumenta que a IA deixou de ser mera ferramenta para se tornar uma forma de agente: capaz de tomar decisões, aprender, inventar e transformar-se de modos que seus criadores não antevêm, mesmo sem consciência. Exemplifica contrastando bombas atômicas e máquinas de café automáticas — que apenas seguem procedimentos — com hipotéticas máquinas de café inteligentes que monitoram usuários, aprendem preferências e inventam bebidas novas; e com IA em jogos como xadrez, que já superam a criatividade humana. Céticos respondem que essas agências são confinadas a nichos artificiais, mas Harari rebate que toda inteligência conhecida depende de um ambiente construído por outros: humanos também não sobreviveriam isolados em Marte. Traçando uma analogia histórica, lembra a grande oxigenação que transformou a atmosfera, favorecendo espécies adaptadas; hoje os humanos transformaram o planeta num ambiente rico em dados, linguagem e burocracia — um “oásis” ideal para IAs prosperarem. Por isso, ao invés de pensar IA apenas como ferramenta, devemos compreender como sua agência, alimentada por dados e estruturas burocráticas, pode reconfigurar instituições, cooperação humana e o futuro da vida social e exigir novas perguntas éticas, políticas e econômicas sobre nosso papel coletivo no futuro.