7:30
youtube.com ontem SRT AI Coder TODAY

Claude Fable 5 और Claude Mythos 5 से दुनिया क्यों डर रही है? Anthropic ने लॉन्च किया नया AI मॉडल

Nova inteligência artificial lançada pela Anthropic assusta o mundo com modelos Claude Fable 5 e Claude Mythos 5.

AI Safety Tecnologia Cibersegurança Anthropic

Conteudo

TLDR;

São duas versões do mesmo modelo de IA lançado pela Anthropic: Claude Mythos 5 é a variante mais poderosa com acesso limitado e Claude Fable 5 é a versão pública mais segura com guardrails. O receio global vem do fato de que esse IA pode encontrar falhas em sistemas complexos, fazer engenharia de software avançada e potencialmente facilitar ataques cibernéticos ou abusos se cair em mãos erradas. Para mitigar riscos a Anthropic limitou o acesso ao Mythos 5 a parceiros selecionados, bloqueou respostas sobre hacking, biologia e química (redirecionando consultas sensíveis ao Claude Opus 4.8), impôs controles contra distilação e anunciou retenção de logs por 30 dias além de cobrança por uso após o período promocional.

Resumo

A Anthropic lançou duas variantes de seu novo modelo de IA: o poderoso Mythos 5, com acesso restrito a parceiros de cibersegurança, cientistas selecionados e governos, e público limitado Claude Fable 5, que incorpora fortes guardrails. A empresa diz que Mythos é uma classe de modelo capaz de resolver problemas complexos, escrever código avançado, identificar vulnerabilidades de software e executar tarefas de longo prazo, o que gerou preocupações governamentais sobre riscos à cibersegurança. Para mitigar abusos, Fable 5 recusa instruções perigosas — por exemplo sobre hacking, construção de armas biológicas, química ou ataques cibernéticos — e redireciona essas consultas ao modelo Opus 4.8; também aplica medidas contra distillation para impedir que terceiros copiem sua tecnologia. Anthropic realizou mais de mil horas de red teaming e armazenará entradas e respostas de modelos Myth por 30 dias para detecção de ataques, alegando que não usará esses dados para treinar modelos. O serviço tem cobrança de dez dólares por cem mil tokens de entrada e esteve disponível sem custo extra em certos planos até 22 de junho. A empresa destaca desempenho superior em benchmarks, admite que Fable às vezes entrega demais ao Opus e alerta sobre o potencial de autoaperfeiçoamento recursivo dos IAs.