Notícias de IA: O modelo de IA mais assustador de todos os tempos!
IA mais assustador de todos os tempos: um modelo que pode mudar tudo!
Conteudo
TLDR;
Claude Mythos é um modelo da Anthropic descrito como um "frontier model" com habilidade excepcional de codificação que pode identificar e explorar vulnerabilidades de software. É considerado assustador porque já encontrou milhares de falhas de alta gravidade, inclusive em OpenBSD, FFmpeg e no kernel Linux, o que pode facilitar ataques em larga escala. Em vez de liberar o modelo ao público, a Anthropic restringiu o acesso e lançou o projeto Glass Wing para que empresas e especialistas em cibersegurança usem o Mythos para localizar e corrigir vulnerabilidades.
Resumo
Acabei de voltar do evento Human X em San Francisco e, enquanto estava fora, surgiu a história dominante no mundo da IA: Claude Mythos e o Project Glass Wing da Anthropic. Mythos é um modelo de ponta treinado para codificação que, como efeito colateral, demonstra habilidades cibernéticas extraordinárias — reproduzindo milhares de vulnerabilidades de alta gravidade em sistemas operacionais, navegadores e bibliotecas (incluindo falhas de décadas no OpenBSD, FFmpeg e no kernel Linux). Benchmarks mostram que Mythos supera modelos anteriores por margens significativas, motivo pelo qual a Anthropic optou por não liberar a versão preview ao público geral. Em vez disso, criou Glass Wing, concedendo acesso restrito a especialistas em segurança de algumas empresas para que encontrem e corrijam vulnerabilidades antes que atores maliciosos explorem capacidades similares. O episódio remete a estratégias anteriores de retenção de modelos (como GPT‑2), que geraram manchetes sensacionalistas e vantagem competitiva. Há benefícios comerciais em anunciar “o modelo mais poderoso”, mas, diferentemente de manchetes exageradas do passado, aqui há justificativa concreta: a escalada de competência em codificação implica risco real para segurança, economia e soberania digital, exigindo prudência, governança e colaboração proativa entre desenvolvedores e defensores da segurança para mitigar ameaças emergentes no cenário mundial.