TLDR;

Ex-funcionários da OpenAI e da Anthropic alertam que as empresas estão desenvolvendo IA superinteligente sem abordar riscos de extinção humana. A superinteligência surge quando sistemas de IA se autoaperfeiçoam recursivamente sem envolvimento humano podendo eliminar a humanidade como espécies extintas. Empresas como OpenAI e Anthropic apostam na corrida por IA avançada apesar de acreditarem que ela pode matar todos os humanos até o fim da década.

Resumo

Daniel Kokotajlo, ex-funcionário da OpenAI, renunciou à empresa em 2024 por acreditar que ela ignorava os riscos de extinção provocados por sistemas de inteligência artificial avançados. Ele alerta que a humanidade pode não sobreviver nos próximos dez anos, já que companhias como a OpenAI correm para criar robôs superinteligentes capazes de causar a destruição em massa. Da mesma forma, um pesquisador da Anthropic também pediu demissão, afirmando que as empresas de tecnologia apostam com nossas vidas ao perseguir superinteligência autoaperfeiçoável. Ambos os especialistas, junto com outros profissionais da área, acreditam genuinamente que a IA poderia eliminar toda a humanidade até o fim da década. O maior temor envolve o autoaperfeiçoamento recursivo, processo em que sistemas de IA se tornam tão avançados que se replicam e evoluem sem qualquer intervenção humana, superando a inteligência humana e potencialmente levando à extinção, tal como humanos fizeram com milhares de espécies animais. Essa ameaça, vista como a mais grave entre todas as atividades humanas, pode se concretizar nos próximos dez anos.