TLDR;

O cientista alertando sobre a urgência da IA é Martin Rees, Astrônomo Real e cofundador do estudo de riscos existenciais na Universidade de Cambridge.. Martin Rees afirma que a IA é mais urgente que as mudanças climáticas porque estas não matarão todos de forma drástica em poucos anos, enquanto a IA pode criar catástrofes globais a qualquer momento.. Os principais riscos incluem o empoderamento de poucos indivíduos para gerar desastres biológicos ou cibernéticos, como vírus ou ataques que derrubam redes elétricas e cadeias de suprimentos mundiais.

Resumo

No trecho, Martin Rees, astrônomo real e cofundador do Centro para o Estudo de Riscos Existenciais da Universidade de Cambridge, discute os alertas de executivos de tecnologia sobre inteligência artificial. Dario Amodei, da Anthropic, defende que o desenvolvimento da IA deve desacelerar e ser rigorosamente monitorado para evitar desastres. Rees concorda que a IA representa um risco existencial significativo, pois pode capacitar indivíduos a causar catástrofes globais em áreas como biologia e cibersegurança, como a criação de vírus ou ataques que derrubem redes elétricas. Ele apoia uma pausa no desenvolvimento, similar à pesquisa genética dos anos 1970, mas reconhece desafios devido à competição internacional, especialmente com a China, e ao poder das grandes empresas. Embora algumas declarações possam ter motivações egoístas, líderes como Geoffrey Hinton demonstram preocupação genuína. Rees compara a IA a ameaças como mudanças climáticas e armas nucleares, destacando seu potencial para catástrofes rápidas que poderiam colapsar a civilização. Apesar dos riscos, ele vê benefícios em medicina, educação e automação de tarefas repetitivas, permitindo que humanos se dediquem a cuidados e ensino. Enfatiza a necessidade urgente de regulação e maior atenção aos perigos. (198 palavras)