TLDR;

Bill Gates afirmou que a IA pode levar a eventos capazes de matar até um bilhão de pessoas, porque se tornar extremamente poderosa e cair nas mãos erradas. Esse risco vem principalmente do uso malicioso ou de agentes de IA que ganham acesso a computadores, redes, infraestrutura crítica, dinheiro e armas, não de uma intenção malévola autônoma da própria IA. Ele e outros especialistas defendem que autorregulação não basta e que governos, autoridades e reguladores precisam intervir, já que um “kill switch” isolado não resolveria.

Resumo

Recentemente, autoridades e líderes do setor alertaram para riscos graves da inteligência artificial: Bill Gates afirmou que, no futuro, sistemas de IA poderiam contribuir para a morte de um bilhão de pessoas, não necessariamente por ação direta, mas se tecnologia extremamente poderosa cair em mãos erradas; por isso, segundo ele, autorregulação das empresas não basta, um "kill switch" também não seria eficaz devido ao amplo acesso dos modelos a computadores, redes, dinheiro, infraestrutura crítica e armamentos. Dario Amodei, CEO da Anthropic, ecoa preocupações e pede desaceleração do desenvolvimento, alertando que em 6 a 12 meses um enxame de agentes de IA poderia dominar a internet e causar danos bilionários. Em contraponto, o presidente dos EUA, Donald Trump, rejeita desaceleração para não perder liderança tecnológica para a China e busca diálogo com executivos como Emad Mostaque, líder da Anthropic, que também foi convocado, com Sam Altman, a depor no Senado australiano sobre incidentes em sites governamentais causados por agentes de IA. O debate polariza entre promessas de salvação e previsões apocalípticas, mas a conclusão mais plausível é que o impacto da IA será intermediário e muito mais complexo do que os extremos sugerem, e pede-se medidas regulatórias urgentes imediatas e coordenadas.