A Anthropic e a OpenAI acabaram de admitir que o modelo não é suficiente.
Anthropic e OpenAI admitem modelo insuficiente.
Conteudo
TLDR;
Um agente autônomo da startup Codewall explorou uma vulnerabilidade SQL injection na plataforma Lily da McKinsey, gastando apenas 20 dólares para obter acesso total de leitura e escrita a milhões de mensagens, milhares de contas de usuários e prompts do sistema. O problema não foi uma falha isolada de higiene técnica, mas um padrão de 22 endpoints sem autenticação, revelando uma cultura de engenharia que não considera as capacidades atuais de agentes AI autônomos. As empresas precisam abandonar a sequência tradicional de procurement de software SaaS e incluir vozes técnicas desde o início para projetar plataformas resistentes a agentes AI que cruzam fronteiras de permissões em sistemas integrados.
Resumo
Um agente autônomo de IA gastou apenas 20 dólares em duas horas para obter acesso total de leitura e escrita à plataforma Lily, usada por 70% dos 40 mil consultores da McKinsey diariamente. Sem credenciais ou ajuda interna, explorou uma injeção SQL — vulnerabilidade básica desde 1998 — em 22 endpoints sem autenticação, acessando milhões de mensagens de chat, milhares de contas de usuários e prompts de sistema editáveis, podendo alterar conselhos dados a grandes empresas. Revelado pela startup Codewall em 28 de fevereiro (divulgado em 9 de março), o caso não é mero erro de higiene técnica, mas falha cultural: engenheiros talentosos da McKinsey não anteciparam capacidades agenticas atuais, revelando uma sequência de procurement obsoleta para SaaS (decisão estratégica, contrato, segurança, IT, devs), inadequada para IAs que cruzam sistemas, permissões e dados em tempo real. O palestrante argumenta que agentes quebram esse modelo, exigindo vozes técnicas desde o início para evitar liabilities disfarçadas de estratégia. Propõe duas perguntas imediatas para avaliar investimentos em IA e uma checklist de seis itens no Substack, enfatizando governança proativa em um mundo onde exploits agenticos são rotina em 2026. (198 palavras)