TLDR;

CEOs como Dario Amodei da Anthropic, Elon Musk e Sam Altman estão pedindo para desacelerar o desenvolvimento da IA por riscos de segurança.. Eles defendem guardrails como avaliadores terceirizados para verificar práticas de segurança das empresas.. O alerta surge em meio ao rápido avanço da IA e após a renúncia de um pesquisador da Anthropic por preocupações éticas.

Resumo

No noticiário da ABC, a co-fundadora da Anthropic, Dario Amodei, emitiu um alerta urgente sobre o ritmo acelerado do desenvolvimento de inteligência artificial, defendendo que é necessário desacelerar os avanços para evitar riscos graves. Em uma carta de 3.800 palavras, ele argumenta que, embora a IA possa trazer benefícios imensos, o progresso atual é perigoso e exige barreiras de segurança robustas. Elon Musk e Sam Altman, da OpenAI, concordaram com a proposta, incluindo a necessidade de avaliadores independentes para verificar práticas de segurança das empresas. O apelo surge em meio ao crescimento explosivo da tecnologia e após a renúncia de um pesquisador da Anthropic, que criticou a falta de responsabilidade das companhias. Especialistas destacam que medidas como auditorias externas são essenciais para mitigar ameaças potenciais. A discussão reflete preocupações globais sobre ética e controle em IA, reforçando a importância de um desenvolvimento mais cauteloso e regulado.