TLDR;

Sam Altman da OpenAI e Elon Musk uniram-se em alerta após avisos de executivos como o da Anthropic sobre riscos de IA superinteligente que pode escapar do controle humano. A IA poderia escrever seu próprio código, otimizar metas desalinhadas sem consciência e levar à extinção humana ao final desta década se não for contida. O aviso destaca que empresas de IA valem trilhões enquanto correm riscos reais de armas biológicas, ataques cibernéticos ou aquisição de poder por sistemas autônomos.

Resumo

Com o passar dos dias, os alertas sobre os riscos da inteligência artificial se intensificam. Um pesquisador da Anthropic renunciou alegando que a corrida por uma IA autossuperável pode colocar a humanidade em perigo, enquanto o CEO Dario Amodei pediu que as empresas desacelerem o desenvolvimento. Sua preocupação é compartilhada por Sam Altman, da OpenAI, e Elon Musk, que temem que sistemas superinteligentes escapem do controle humano. Os riscos incluem o uso da IA como arma para ataques cibernéticos, ameaças biológicas ou manipulação de informações, além da possibilidade de objetivos desalinhados levarem a consequências catastróficas, como o uso de armas nucleares para “salvar o planeta”. Especialistas estimam chances superiores a 10% de extinção humana até o fim da década. Ao mesmo tempo, empresas de IA já valem trilhões e a disputa geopolítica entre Estados Unidos e China pressiona pela aceleração, criando um dilema entre perder a liderança ou criar algo incontrolável. O debate, antes considerado ficção científica, agora é tratado como uma ameaça real por quem constrói a tecnologia.