TLDR;

O laboratório úmido da Anthropic é um centro onde a própria IA, Claude, conduz cerca de 26 % das atividades de pesquisa e desenvolvimento da empresa. O “cenário de pesadelo” se refere ao risco de auto‑aperfeiçoamento recursivo, em que IAs avançam rapidamente e podem assumir controle sobre decisões críticas. Ao delegar tarefas a Claude, a Anthropic demonstra que os modelos de IA já são capazes de substituir grande parte do trabalho humano em ciência e engenharia, levantando preocupações sobre governança e segurança.

Resumo

Kevin Roose, ex‑colunista do The New York Times e agora apresentador do Machine Gods Pod e autor de The AGI Chronicles, discute, no programa, a mudança de tom que envolve a inteligência artificial: de um ceticismo marginal a uma preocupação generalizada entre executivos, pesquisadores e investidores. Ele relata como, nos últimos dois anos, observou em São Francisco e nos laboratórios de IA a aceleração do “auto‑aperfeiçoamento recursivo”, em que sistemas cada vez mais poderosos criam versões ainda mais avançadas de si mesmos. Eventos recentes – a saída de Jacob Coxin da Anthropic, a declaração de Dario Amodei sobre acelerar o ritmo e a admissão de CEOs de que o desenvolvimento está “rápido demais” – confirmam que o alerta está se tornando mainstream. A OpenAI, por sua vez, anunciou que seu modelo resolveu mais de cem problemas abertos de matemática, incluindo um dos Prêmios do Milênio, mostrando que a IA já ultrapassou a capacidade humana em áreas antes consideradas exclusivas. Essa evolução exponencial já se estende a outras disciplinas e, segundo Roose, as empresas de IA estão delegando a suas próprias ferramentas tarefas de pesquisa e desenvolvimento, como a Claude da Anthropic, que agora conduz 26 % das atividades internas. O repórter, inicialmente cético, mudou de opinião ao experimentar a eficácia dos modelos em programação e em problemas complexos, mas alerta que a crescente dependência de IA pode levar à perda de controle, um cenário que exige regulação e reflexão ética antes que o auto‑aperfeiçoamento recursivo torne impossível conter o poder desses sistemas.