TLDR;

Os CEOs de OpenAI e Anthropic pedem para desacelerar o desenvolvimento da IA para que medidas de segurança acompanhem o avanço das capacidades.. Dario Amodei propôs que as empresas de IA trabalhem juntas para desacelerar o desenvolvimento de forma controlada conforme o memorando "We must pace the frontier".. Sam Altman aprova a proposta de Dario Amodei e considera um IPO da OpenAI inoportuno devido às preocupações com segurança da IA.

Resumo

O conteúdo discute os debates sobre o ritmo acelerado do desenvolvimento de inteligências artificiais por empresas como OpenAI e Anthropic. Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo que o avanço da tecnologia ocorra de forma mais lenta e controlada, para que medidas de segurança acompanhem suas capacidades. Sam Altman, da OpenAI, apoia a ideia e descartou uma abertura de capital este ano, citando preocupações com segurança. Em entrevista, Gary McGrath, especialista em segurança e IA, argumenta que os modelos não possuem intenção ou compreensão real, sendo apenas ferramentas criadas por humanos. Ele critica a linguagem antropomórfica que atribui agência às IAs, afirmando que problemas como falhas de segurança ou uso indevido resultam de erros humanos em engenharia, como sandboxes mal projetados. McGrath defende que as empresas assumam responsabilidade e que leis existentes de segurança cibernética sejam aplicadas, em vez de novas regulamentações, enfatizando que ainda não há autonomia verdadeira nas IAs.