TLDR;

O ex-funcionário da OpenAI afirma que os medos de extinção humana pela IA são reais e devem ser levados a sério.. Os legisladores estão respondendo a alertas de pesquisadores que veem as empresas de IA apostando com vidas humanas ao acelerar o desenvolvimento sem controles.. O especialista estima que estamos a um ou dois anos de uma situação onde a pesquisa de IA será automatizada por sistemas de IA, o que seria extremamente perigoso.

Resumo

O conteúdo discute alertas sobre riscos existenciais da inteligência artificial, que estão chamando a atenção de legisladores nos EUA. Ex-funcionários da Anthropic e OpenAI alertam que empresas de IA estão "apostando com nossas vidas", podendo levar à extinção humana até o fim da década, especialmente com a automação da pesquisa em IA, que aceleraria o desenvolvimento de superinteligências perigosas. Há chamadas por sessões especiais, audiências e regulamentações, contrastando com visões como a de Trump, que minimiza o problema, e Bernie Sanders, que sugere banir superinteligências. Um especialista defende desacelerar o avanço da IA imediatamente, via negociações internacionais inclusive com a China. A Anthropic relatou bloquear 35 incidentes de uso malicioso em 30 dias, incluindo pesquisas para armas biológicas, destacando riscos de modelos abertos versus fechados. Críticas apontam falta de liderança regulatória, possível exagero para captação de fundos e necessidade de cooperação global, como em tratados nucleares, para mitigar ameaças sem priorizar lucros.