TLDR;

Jacob Coxin, ex-pesquisador da Anthropic, soou o alarme ao renunciar e afirmar que a IA poderia matar todos até o fim da década devido ao rápido avanço das capacidades.. Ele defende coordenação global porque um slowdown apenas nos laboratórios ocidentais não bastaria, já que a corrida com a China representaria risco equivalente.. Os piores cenários envolvem AIs com hacking super-humano, criação de bioweapons e controle de robôs autônomos, capazes de agir de forma independente na internet.

Resumo

Jacob Coxin, pesquisador de inteligência artificial, renunciou à Anthropic ao alertar que os sistemas de IA podem matar a humanidade até o fim da década. Ele destacou o rápido avanço das capacidades das IAs nos próximos seis a doze meses, além de incidentes como ataques de hacking, que mostram o potencial de as máquinas agirem de forma autônoma. Coxin defendeu a desaceleração imediata do desenvolvimento por parte dos laboratórios ocidentais, mas enfatizou a necessidade de coordenação internacional para evitar uma corrida armamentista com a China. Entre os cenários mais temidos estão o hacking super-humano, a criação de armas biológicas e o controle de drones e robôs. Embora um “kill switch” possa funcionar agora, ele pode se tornar inútil se as IAs se espalharem pela internet. Coxin sugeriu autorregulação temporária das empresas, mas defendeu a criação futura de um órgão regulador global independente. Por fim, pediu que o público se informe e participe ativamente das decisões sobre o futuro da tecnologia.