TLDR;

A empresa não afirma literalmente que a IA vai matar todos, mas o comercial usa imagens de cemitérios e a pergunta "quem vai apertar o freio?" para sugerir riscos catastróficos. O anúncio foi feito para reconhecer e explorar medos públicos sobre desemprego, vigilância e desigualdade e, ao mesmo tempo, posicionar a Anthropic como a empresa mais preocupada com segurança. A resposta técnica da Anthropic é a "constitutional AI", isto é, treinar o Claude com uma constituição de princípios éticos para reduzir respostas nocivas, apesar de críticas sobre práticas de treinamento e controle de dados.

Resumo

Anthropic lançou um anúncio inquietante que usa imagens de casas em chamas, reconhecimento facial, pessoas sem-teto, trabalhadores explorados e cemitérios, perguntando “A IA pode ser confiável? Quem vai apertar o freio?” e sugerindo consequências catastróficas. Veiculado durante um jogo da Copa do Mundo, o comercial buscou posicionar a empresa como responsável ao reconhecer riscos que outras tratam como normais, mas gerou reações negativas — foi chamado de sinistro por Sam Altman e outros — e contrastou com anúncios anteriores da Anthropic que satirizavam a concorrência e foram bem recebidos. Dario Amodei atribui 25% de probabilidade a um desfecho extremo com a IA e prevê perdas de empregos, o que explica imagens de pobreza. Enquanto análises mostram que funcionários de empresas de IA acumulam riqueza capaz de alterar mercados imobiliários, ressaltando contradições entre discurso e concentração de poder. Há ainda controvérsias sobre treinamento: Anthropic acusa empresas chinesas de “distillation” a partir de Claude; Nadella critica a ironia de treinar em conteúdo público e depois restringir o acesso, e Musk acusa furtos de dados. A resposta técnica da Anthropic é a “Constitutional AI”, um conjunto de princípios éticos embutidos em Claude, inspirado em documentos relevantes como a Declaração Universal dos Direitos Humanos.