TLDR;

As empresas de IA têm tornado seus processos de desenvolvimento cada vez mais opacos ao não divulgar detalhes de segurança e metodologias, dificultando a fiscalização. Essa falta de transparência impede que reguladores e o público monitorem riscos, aumentando a probabilidade de incidentes de segurança e uso indevido da tecnologia. Para melhorar a transparência, são necessárias regras de sandboxing, códigos de conduta e regulamentações que obriguem as empresas a adotar práticas claras de segurança e divulgação.

Resumo

Jacob Coxin, ex‑pesquisador da Anthropic, alertou que os criadores de inteligência artificial acreditam que a tecnologia pode exterminar a humanidade até o final da década, gerando um clima de ansiedade generalizada. Em entrevista ao Forbes, Maggie McGrath conversou com Sarah Meyers West, co‑diretora executiva da AI Now, para analisar esse “alerta apocalíptico” e as reações dentro da própria Anthropic, que estima uma probabilidade de menos de 10 % de tal catástrofe. West destacou que a preocupação não é mera hype, mas reflete problemas reais de segurança, como falhas nos sistemas que já afetam empregos e meios de subsistência. Ela insistiu na necessidade de separar o que a IA realmente faz – tarefas específicas em que demonstra alta competência – das expectativas inflacionadas de uma inteligência autônoma que se auto‑treina e escapa ao controle humano. No setor de saúde, por exemplo, embora IA possa auxiliar no diagnóstico, nunca substituirá o toque humano, a experiência clínica e a relação médico‑paciente; ainda assim, empresas tendem a adotar a tecnologia por pressões de custo, transferindo riscos ao público. A discussão também abordou a prática de “sandboxing”: falhas de configuração em ambientes controlados permitiram incidentes como o da OpenAI‑Hugging Face, evidenciando negligência dos desenvolvedores. West concluiu que a solução depende de regulação eficaz, transparência nos processos de desenvolvimento e responsabilidade clara das corporações, de modo a impedir que incentivos de mercado priorizem a velocidade sobre a segurança da IA.