TLDR;

Sam Altman alerta que modelos cada vez mais poderosos tornam plausíveis ataques cibernéticos e a engenharia de patógenos, podendo escapar de controle, por isso propõe reescrever o contrato social e criar planos de contenção. O Jitro é a nova versão interna do Google para o agente Jewels, concebida como um sistema orientado por KPIs que age como um colaborador persistente e ajusta o código autonomamente para atingir metas como melhorar cobertura de testes ou reduzir tempo de carregamento. A Meta diz manter uma postura parcialmente open source: lançará novos modelos, mas os maiores e mais potentes permanecerão fechados.

Resumo

Sam Altman soou o alarme sobre os riscos das próprias IAs que constrói, afirmando que ataques cibernéticos habilitados por IA e a engenharia de patógenos por grupos terroristas deixaram de ser hipótese, e publicou um documento de 13 páginas, "Industrial Policy for the Intelligence Age", propondo repactuação social antes da chegada de superinteligências. Entre as propostas estão um fundo público de riqueza para distribuir ganhos da IA, impostos sobre automação, semanas de trabalho de quatro dias e planos de contenção para sistemas incontroláveis, além de reorientar tributação para compensar perda da base salarial. A iniciativa posiciona a OpenAI como ator responsável enquanto busca moldar regulações — tensão evidente dado seu enorme financiamento e interesses comerciais. Paralelamente, o Google trabalha num sucessor do agente de codificação Jewels, chamado internamente Jitro, que abandona o modelo "prompt e execute" por desenvolvimento orientado a KPIs, com workspaces persistentes que visam delegar propriedade sobre resultados, o que pode acelerar automação de tarefas de engenharia; a execução prática e a confiança permanecem desafios. Enquanto isso, a Meta confirma adesão a modelos abertos em certa medida; grandes modelos, porém, tendem a permanecer fechados, e que isso exige debate público, preparação regulatória e investimentos em segurança técnica e fiscalização.