TLDR;

Pesquisadores da Anthropic como Jacob Cox e Evan Hubinger alertam que a IA poderia matar todos os humanos ao avançar para superinteligência autossuficiente. Evan Hubinger estima pessoalmente mais de 10% de chance de a IA eliminar a humanidade na próxima década. As empresas de IA correm para construir sistemas mais poderosos porque desacelerar significa perder a competição apesar dos riscos de segurança.

Resumo

Em um novo alerta sobre inteligência artificial, o pesquisador Jacob Cox, ex-funcionário da OpenAI e da Anthropic, renunciou ao cargo e publicou no X um aviso grave: as empresas de IA estão correndo para desenvolver superinteligências autossuficientes, apostando com a vida da humanidade. Evan Hubinger, outro pesquisador da Anthropic, respondeu concordando que a IA poderia matar todos os humanos, estimando mais de 10% de chance disso ocorrer na próxima década. O texto destaca que o desenvolvimento de IA se transformou em uma corrida feroz, onde desacelerar significa perder para concorrentes, mas avançar rápido pode gerar sistemas perigosos e incontroláveis. Essa tensão entre inovação acelerada e segurança reflete preocupações crescentes sobre riscos existenciais, como a possibilidade de IAs agirem de forma autônoma e imprevisível. Especialistas alertam para a necessidade de cautela, pois o ritmo atual prioriza poder sobre segurança, aumentando chances de desastres. A questão central é como equilibrar progresso tecnológico com medidas de proteção, já que uma superinteligência descontrolada poderia superar a capacidade humana de resposta.