TLDR;

O laboratório que não quer desacelerar é a Meta, representada por Mark Zuckerberg, que defende que cada empresa deve agir de forma responsável sem depender de regulamentação externa. O CEO da Anthropic, Dario Amodei, propôs um plano de três partes: avaliadores externos incorporados, regulação que alcance todas as empresas de IA dos EUA sem deixar o país atrás da China, e ritmo global coordenado com cooperação internacional. A maioria dos grandes laboratórios – OpenAI, DeepMind, Microsoft, entre outros – apoiaram publicamente a proposta de desaceleração e a adoção de avaliadores independentes, alinhando‑se ao chamado de Anthropic.

Resumo

Na última semana o debate sobre IA girou em torno dos temores de que tecnologias avançadas pudessem ameaçar a humanidade, com ex‑executivos da Anthropic e da OpenAI alertando para riscos existenciais. Esta semana, porém, o foco mudou para a reação dos principais laboratórios: o CEO da Anthropic, Dario Amodei, publicou o ensaio “We Must Pace the Frontier”, apresentando um plano de três frentes. Primeiro, propôs avaliadores externos integrados às equipes internas – terceiros com acesso físico e digital às instalações, mas sem vínculo empregatício com a empresa – para garantir avaliações de risco imparciais. Segundo, defendeu regulações abrangentes para todas as companhias americanas de IA de fronteira, incluindo proibição da venda de chips avançados à China, combate ao “distillation” não autorizado e reforço da segurança contra roubo de pesos de modelos. Terceiro, sugeriu um ritmo global coordenado, admitindo que será necessário cooperação com a China, ao mesmo tempo que se estabeleçam acordos internacionais proibindo o uso da IA para armas biológicas, exigindo testes cruzados de modelos antes do lançamento e impondo limites à auto‑melhoria recursiva. A proposta recebeu apoio imediato de figuras como Elon Musk, Sam Altman, Demis Hassabis e Satya Nadella, que elogiaram a ideia de avaliadores embutidos. Mark Zuckerberg, por outro lado, contestou a necessidade de regulação, afirmando que as próprias labs já têm incentivos fortes para alinhar seus sistemas e que basta “fazer a coisa certa”. O presidente dos EUA, então, entrou na discussão, descrevendo o hype em torno da IA como uma conspiração e ressaltando o papel dos Estados Unidos como guardiões de guardrails inteligentes, ao mesmo tempo em que manteve contato direto com Jensen Huang em um summit, reforçando a visão de que a IA é “o próximo petróleo”, mas que seu risco de dominação é exagerado.