TLDR;

A corrida para o fundo refere-se à competição entre empresas de IA que prioriza velocidade sobre segurança e alinhamento com valores humanos. A regulação da IA é difícil porque envolve desacelerar o desenvolvimento em meio a uma corrida competitiva e interesses financeiros bilionários das companhias. A China exige uma abordagem internacional com verificação e acordos globais para equilibrar competitividade e controle de riscos da IA.

Resumo

Em 2014, a OpenAI foi fundada por Sam Altman, Elon Musk e outros, motivada pelo medo de que a inteligência artificial se tornasse desalinhada com os valores humanos, inspirada em livros de ficção científica de Isaac Asimov. Inicialmente criada como organização sem fins lucrativos e de código aberto, a empresa passou por uma grande divisão quando Altman decidiu transformá-la em uma companhia fechada e lucrativa. Musk então fundou a xAI, buscando maior alinhamento com a segurança, mas a intensa competição entre empresas, especialmente entre Estados Unidos e China, dificulta a imposição de barreiras éticas, pois todos correm para lucros trilionários. O texto destaca o ceticismo em relação a promessas como renda básica universal, já que as empresas resistem a impostos e regulação, e compara o desafio atual à crise de 2008, pela complexidade tecnológica incompreendida por governos. A solução sugerida envolve cooperação internacional semelhante ao controle de armas nucleares, com possível pausa no desenvolvimento, embora se reconheça a dificuldade em um cenário de corrida armamentista. O autor alerta que um incidente grave pode servir como chamado de atenção para uma regulação mais eficaz.