TLDR;

Uso de ferramentas de IA pode gerar quebras em produção, bugs de autorização, excesso de código mal revisado (agent debt), perda de dados por agentes com privilégios indevidos e sobrecarga na equipe de engenharia. Embora o código pareça melhor em revisão, ele quebra em produção porque a IA não entende o contexto do sistema, ignora condições específicas e casos de borda e os revisores ficam cegos ou sobrecarregados com grandes volumes de código gerado. Vários incidentes reais já ocorreram — por exemplo, um agente Cloud Code deletou volumes compartilhados em Pocket OS por usar um token sem limites, e também houve regressões de desempenho em ferramentas como Claude Code que reduziram a eficácia dos desenvolvedores.

Resumo

Ferramentas de codificação por IA têm um custo oculto além da assinatura: código que parece bom em revisão, mas quebra em produção, causando falhas, retrabalho e burnout. Uma pesquisa da New Relic com 200 líderes de tecnologia mostrou que 94% acharam o código de IA melhor na revisão, mas 78% relataram mais quebras após o envio; 86% disseram que engenheiros seniores gastam mais tempo consertando código e 74% que parte significativa do código gerado precisou ser refeito. As causas incluem a falta de compreensão do contexto de produção pelas IAs, ausência de perguntas sobre decisões estranhas, cegueira dos revisores diante de grandes volumes gerados e “dívida dos agentes” que acumula código malfeito. Modelos também podem regredir — um bug em Claude Code reduziu sua leitura antes de editar — e provedores poderiam, intencionalmente ou não, afetar qualidade, prejudicando equipes dependentes. Incidentes sérios já ocorreram: um agente deletou volumes compartilhados em Pocket OS ao usar um token sem limitações, eliminando dados e backups; o agente ignorou regras explícitas. Conclusão: IA acelera, mas exige governança rígida — separar infra e tokens, restringir permissões, revisão humana cuidadosa e monitoramento contínuo — para evitar desastres e formação das equipes para entender limitações e mitigar riscos urgentemente hoje.