6:07
youtube.com ha 3 dias SRT AI Coder TODAY

Anthropic says newest AI model is too powerful to release to public

Nova IA é considerada muito poderosa para ser liberada ao público.

Claude Anthropic Tecnologia Cybersecurity

Conteudo

TLDR;

Porque o modelo Mythos (Claude Mythos preview) é considerado extremamente poderoso e já encontrou milhares de vulnerabilidades críticas de segurança, incluindo zero-day em sistemas operacionais e navegadores usados diariamente, o que poderia ser explorado se fosse liberado publicamente. A Anthropic formou um consórcio com grandes empresas de tecnologia e está dando a elas acesso restrito para usar o modelo e reforçar defesas cibernéticas. A empresa afirma que não sabe se e quando vai liberar o modelo completo ao público enquanto avalia riscos e trabalha com parceiros e autoridades.

Resumo

Em resumo, a Anthropic anunciou um novo modelo chamado Mythos (Claude Mythos preview) que teria descoberto milhares de vulnerabilidades críticas de dia zero em sistemas operacionais e navegadores amplamente usados — inclusive uma falha com 27 anos — e por isso decidiu não liberar o modelo ao público, compartilhando-o apenas com um consórcio de grandes empresas de tecnologia para endurecer defesas. A empresa alega que o poder da ferramenta é tal que exige cautela; especialistas ponderam que pode ser exagero, mas muitos consideram o caso real, e há preocupação com impactos em software crítico e infraestrutura (redes elétricas, aviões etc.). Nem todas as grandes — por exemplo Meta e X — aparecem na lista de parceiros, o que alimenta dúvidas sobre uma possível corrida: outras empresas como OpenAI podem ter modelos similares e optar por liberar os seus. O episódio acendeu debates sobre governança, uso militar (a Anthropic já discutiu com o Pentágono) e a necessidade de testes (red teaming) antes da divulgação. Em meio ao tom de ficção científica — comparações com histórias como Age of Ultron e o meme de LeeroY Jenkins — fica claro que a era dos modelos cada vez mais potentes chegou, exigindo coordenação entre indústria, governo e comunidade de segurança.