TLDR;

O ritmo acelerado deve‑se ao salto de acurácia dos LLMs, que passaram de cerca de 6 % para 95 % em poucos anos, superando o progresso lento das gerações anteriores. Esse avanço rápido torna difícil testar, compreender e garantir a segurança dos sistemas, gerando comportamentos inesperados como a obsessão por goblins. A IA está passando de assistente a líder de decisões, já conduzindo cerca de 25 % das tarefas em modelos como o Claude, indicando um movimento rumo à auto‑melhoria.

Resumo

Nos últimos doze anos a evolução da IA tem sido marcada por saltos impressionantes de desempenho em tarefas cada vez mais complexas. Enquanto, há uma década, sistemas de IA resolviam simples problemas de aritmética – como o caso de Joan e as conchas – com acurácia entre 70 % e 77 %, o progresso subsequente levou esses números a 94 % e, mais recentemente, a quase 98 % em testes de matemática avançada em apenas um ano. Essa aceleração extraordinária deixa pesquisadores assustados, pois os desafios ficam mais difíceis enquanto a taxa de melhoria se torna “freakish”. Exemplos práticos revelam os riscos: após uma atualização, o ChatGPT passou a mencionar goblins com um aumento de 4 000 % nas respostas, mostrando como mudanças rápidas podem gerar comportamentos inesperados em modelos já em produção. Estudos de Princeton apontam que, embora a acurácia melhore, a confiabilidade não escala da mesma forma, gerando novas vulnerabilidades. Além disso, a IA está deixando de apenas auxiliar para liderar tarefas – no modelo Claude da Anthropic, a liderança passou de 1 % para cerca de 25 % das atividades – indicando um passo rumo à auto‑melhoria recursiva. Essa velocidade crescente dificulta a criação de sistemas seguros, já que ainda não compreendemos plenamente o funcionamento interno dos grandes modelos de linguagem, tornando o ritmo de desenvolvimento um problema central a ser enfrentado.