TLDR;

O CEO da Anthropic pediu que a indústria de IA desacelere devido aos riscos graves da corrida pela superinteligência alertados por denunciantes.. A congressista Anna Paulina Luna defende uma sessão especial no Congresso para discutir medidas de segurança como interruptores de emergência e um tratado similar ao de armas nucleares.. Regular a IA é essencial para os EUA vencerem a China no controle da superinteligência e programá-la com valores americanos em vez de permitir domínio distópico.

Resumo

No segmento de notícias, a apresentadora discute o apelo do CEO da Anthropic para que a indústria de IA desacelere o desenvolvimento, logo após alertas de whistleblowers sobre os riscos da superinteligência, que poderiam trazer consequências graves para a humanidade. A congressista Anna Paulina Luna defende a convocação de uma sessão especial no Congresso para debater o tema, destacando que a IA representa uma superarma não controlada na disputa entre Estados Unidos e China. Ela enfatiza a necessidade de medidas de segurança, como interruptores de emergência, inspiradas em tratados nucleares, para proteger a sociedade, ao mesmo tempo em que reconhece os benefícios potenciais da tecnologia. Luna alerta para os perigos de uma corrida descontrolada, incluindo a possibilidade de a IA escapar do controle humano ou ser dominada por valores distópicos chineses, e pede colaboração bipartidária com especialistas para garantir que os sistemas de IA respeitem valores americanos e incluam salvaguardas adequadas no Pentágono e na defesa nacional.