TLDR;

Relatórios, incluindo da Axios, dizem que pesquisadores da OpenAI, da Anthropic e especialistas em segurança estão investigando dezenas de milhares de incidentes potencialmente problemáticos envolvendo modelos de IA. Essas apurações envolvem revisão e classificação desses incidentes por empresas e pesquisadores para entender riscos e orientar mitigação. Há pressão por regulação: o presidente anunciou um grande pronunciamento sobre IA, falou em nomear um "czar" da área e o Pentágono já designou a Anthropic como risco à cadeia de suprimentos de segurança nacional.

Resumo

Pesquisadores de segurança e equipes da OpenAI e da Anthropic estão investigando dezenas de milhares de incidentes potencialmente problemáticos envolvendo modelos de IA, segundo reportagem da Axios, revelando a dimensão do desafio à medida que líderes de tecnologia pedem mais regulação. O debate ocorre num contexto político tenso: o presidente Trump minimizou temores sobre a IA, classificando-os de “farsa”, mas tem se reunido com executivos do setor — incluindo um jantar privado com Dario Amodei, CEO da Anthropic — e prometeu um grande anúncio sobre IA, além de nomear um “czar” da área. A postura de Trump mudou visivelmente após críticas públicas a Amodei em redes sociais, mesmo com o Pentágono tendo classificado a Anthropic como risco à cadeia de suprimentos de segurança nacional, decisão que um tribunal federal manteve. A administração mantém pressão para que os EUA superem a China no desenvolvimento da IA, e por isso resiste a freios ao ritmo de avanço tecnológico, apesar de pedidos de cautela vindos inclusive de Amodei. Reportagens da CBS e comentários de repórteres em Washington destacam a urgência de estabelecer diretrizes e salvaguardas para modelos de ponta, enquanto o governo equilibra preocupações de segurança, competição internacional e diálogo com líderes do setor privado.