TLDR;

Jack Clark afirma que a tecnologia de IA que estão construindo pode provocar uma transformação aproximadamente dez vezes maior e dez vezes mais rápida que a Revolução Industrial. Os riscos apontados vão de danos sociais e cibersegurança até ameaças biológicas e mesmo existenciais, e o argumento é que esses perigos podem surgir muito mais rápido do que nossas intuições acompanham. Para mitigar isso, Anthropic criou o Anthropic Institute e equipes como o Frontier Red, desenvolve testes e ferramentas de segurança, compartilha resultados com especialistas externos e apoia validações de terceiros e maior regulação do setor.

Resumo

Jack Clark, cofundador e chefe de políticas da Anthropic, participa do podcast Ways to Change the World para discutir os benefícios e riscos da IA e a urgência de novas formas de regulação. Ele afirma que estamos desenvolvendo uma tecnologia capaz de provocar uma mudança comparável à Revolução Industrial, só que mais rápida, e questiona a ética de trabalhar com sistemas que podem ser ao mesmo tempo transformadores e perigosos. Clark descreve seu papel em evangelizar e alertar, e a criação do Anthropic Institute para estudar modelos como o Claude/Mythos, construir ferramentas de investigação e compartilhar resultados com especialistas externos. Sua formação em jornalismo ajuda‑o a “interrogar” sistemas, formulando perguntas que revelam vieses, tendências e riscos. A equipe pratica red‑teaming e testes pré‑planejados para antecipar problemas — por exemplo, identificaram a escalada do risco cibernético à medida que modelos ficaram melhores em codificar, e Mythos confirmou saltos de capacidade. Clark também responde ao ceticismo sobre exageros comerciais, defendendo testes rigorosos e validação por terceiros (como institutos de segurança) e conclama a transparência e a criação de regulamentação que controle a indústria em vez de depender de personalidades influentes. Ele defende diálogo público, colaboração internacional e preparação governamental urgente e eficaz.