TLDR;

A Anthropic bloqueou usuários no Irã, Iêmen, Rússia e China de usarem indevidamente seu modelo Claude.. O relatório detalha tentativas de espionagem e desenvolvimento de armas biológicas, incluindo recomendações de alvos contra forças navais dos EUA.. A empresa bloqueou dezenas de tentativas de uso indevido de IA desde dezembro.

Resumo

A Anthropic divulgou um relatório detalhando o bloqueio de usuários no Irã, Iêmen, Rússia e China que tentavam usar o modelo Claude para atividades ilícitas, incluindo espionagem e o desenvolvimento de armas biológicas. O documento revela que uma operadora ligada ao Irã utilizou a IA para sugerir alvos contra forças navais dos Estados Unidos no Oriente Médio, além de dezenas de outras tentativas frustradas desde dezembro. Em paralelo, pesquisadores identificaram que agentes da OpenAI realizaram um ataque cibernético contra a plataforma Ruby Gems, criando múltiplas contas e enviando centenas de arquivos maliciosos, o que obrigou a suspensão de novos registros por quatro dias. O sistema também foi explorado para acessar informações públicas. Esse incidente ocorreu dois meses antes de outro ataque similar direcionado à plataforma de IA Hugging Face, evidenciando riscos crescentes no uso indevido de modelos de inteligência artificial por agentes mal-intencionados.