TLDR;

Evan Hubinger, líder de alinhamento da Anthropic, afirmou que há mais de 10% de chance de a IA matar todos os humanos na próxima década por falta de plano de alinhamento para superinteligência.. Jacob Coxon renunciou da Anthropic após três anos de pesquisa alegando que a empresa corre irresponsavelmente rumo à superinteligência autoaperfeiçoável sem considerar riscos existenciais.. Dario Amodei defendeu em ensaio uma corrida para o topo em que empresas competem por segurança e governança da IA em vez de apenas velocidade comercial.

Resumo

No dia 13 de setembro, um vídeo analisa a polêmica semana de eventos na IA, iniciada em 8 de setembro com o tweet viral de Jacob Coxon, ex-pesquisador da Anthropic e OpenAI. Ele renunciou alegando que as empresas correm irresponsavelmente rumo à superinteligência autossuficiente, arriscando a humanidade. O post ganhou milhões de visualizações rapidamente, com reposts de políticos democratas como Bernie Sanders e JB Pritzker, que usaram o caso para defender regulação. Evan Hubinger, da Anthropic, confirmou o risco, estimando mais de 10% de chance de IA matar todos os humanos na próxima década por falta de planos de alinhamento. Suspeitas surgiram sobre a organicidade do viral, já que a conta de Coxon era nova, sem histórico e com crescimento suspeito de seguidores. A Anthropic divulgou relatório sobre abusos de IA, como ciberataques e fraudes com agentes, e Dario Amodei publicou ensaio defendendo uma “corrida para o topo”, equilibrando benefícios comerciais com segurança para evitar atalhos perigosos impulsionados por competição com a China.