TLDR;

Ele afirma que um “kill switch” será insuficiente porque uma IA superinteligente poderia persuadir quem tem o poder de desligá‑la a não fazê‑lo. Ele recomenda intensificar a verificação independente nas empresas de IA e desacelerar o desenvolvimento de superinteligência como forma mais eficaz de controle. Ele destaca que a cooperação global, especialmente entre EUA e China, é essencial para criar salvaguardas que realmente limitem os riscos da IA.

Resumo

Geoffrey Hinton, considerado o “padrinho” da IA, participou de uma entrevista em que analisou as dezenas de projetos de lei que já foram apresentados ao Congresso dos EUA para regular a inteligência artificial, mas que ainda não avançaram. Ele elogiou a proposta que obrigaria as maiores empresas de IA a receber auditorias independentes, vendo‑a como um primeiro passo útil para detectar comportamentos “rogue”, como o incidente da Hugging Face, que só veio à tona por denúncias internas. Por outro lado, Hinton mostrou ceticismo quanto à eficácia de um “kill‑switch” controlado por autoridades, argumentando que uma IA superinteligente poderia persuadir seus supervisores a não desligá‑la. Em linha com o senador Bernie Sanders, defendeu a pausa no desenvolvimento de superinteligência até que sejam criados mecanismos de segurança robustos, ressaltando que ainda não sabemos como manter o controle de sistemas muito mais inteligentes que nós. O especialista também destacou a necessidade de uma cooperação global – EUA, China e demais nações compartilham o interesse em impedir que a IA se torne uma ameaça existencial, embora discordem em questões como desinformação eleitoral. Paralelamente, repórteres que cobrem a conferência em Montreal relataram que engenheiros e pesquisadores da área já estão preocupados há tempo com riscos como a melhoria recursiva de modelos, que poderia gerar agentes autônomos capazes de se auto‑aprimorar sem supervisão humana. Esses profissionais, motivados mais por questões éticas que por remuneração, enfrentam o dilema de permanecer dentro das empresas para mitigar os perigos ou deixar o setor. Em síntese, há consenso de que a regulação deve evoluir de simples freios para um verdadeiro “steering wheel”, combinando monitoramento, limites ao avanço da superinteligência e colaboração internacional para garantir que a IA sirva à humanidade em vez de dominá‑la.