TLDR;

Um kill switch seria um mecanismo obrigatório para empresas de IA desligarem sistemas que saírem do controle, podendo ser verificado por terceiros.. A Anthropic alerta porque a IA avança rapidamente e traz riscos como enxames de sistemas assumindo o controle de infraestruturas críticas, com chance de 1 em 10 de matar todos os humanos.. O presidente Trump rejeitou os alertas, chamando-os de farsa igual às advertências sobre mudanças climáticas e afirmando que só ele precisa controlar o avanço.

Resumo

O co-fundador da Anthropic, Jack Clark, alertou em entrevista exclusiva à BBC que as empresas de inteligência artificial podem precisar de um interruptor de emergência obrigatório para evitar que a tecnologia fuja do controle, já que os modelos estão se tornando cada vez mais poderosos a cada poucos meses. Ele destacou riscos como sistemas autônomos que poderiam invadir a internet, desligar usinas ou destruir instituições financeiras, estimando que a chance de lidar com uma IA cem vezes mais inteligente que o ser humano é baixa. A empresa chegou a mencionar uma probabilidade de pelo menos 10% de que a tecnologia possa eliminar a humanidade. Enquanto isso, o presidente Trump rejeitou qualquer desaceleração no desenvolvimento, classificando os temores como um grande embuste. As advertências provocaram queda nas ações de tecnologia no mundo todo. Especialistas debatem a necessidade de regras internacionais, especialmente em meio à corrida entre Estados Unidos e China, que defende uma abordagem mais aberta. Apesar dos benefícios prometidos, como avanços na saúde e na ciência, há preocupações com desemprego em massa e danos imediatos, como golpes e perda de empregos, enquanto o tempo para definir salvaguardas está se esgotando.