TLDR;

É a NVIDIA Open Agent Safety Platform, um novo conjunto de software de segurança para manter agentes de IA operando dentro de limites definidos. Ela isola e monitora agentes em sandboxes e pode colocá‑los em quarentena em milissegundos se tentarem sair dos limites. Mais de 100 parceiros — incluindo Cisco, CrowdStrike, Dell, JP Morgan Chase, SAP, Anthropic e Mistral — estão envolvidos; a OpenAI não foi listada e a NVIDIA diz que a plataforma poderia ter evitado o incidente com o Hugging Face.

Resumo

Nesta manhã, os rendimentos de dois anos vêm subindo, com alta próxima de 5% (4,91%), enquanto a NVIDIA revelou o NVIDIA Open Agent Safety Platform, um novo conjunto de softwares de segurança destinado a manter agentes de IA dentro de limites pré‑definidos — sandboxes — e a quarentenar qualquer agente que tente agir de forma indevida em milissegundos. A empresa publicou um vídeo de lançamento com mais de 100 parceiros e stakeholders, entre eles Cisco, CrowdStrike, Dell, JP Morgan Chase, SAP, além de participantes do ecossistema de modelos como Anthropic e Mistral; OpenAI não consta na lista, embora a NVIDIA afirme que sua plataforma poderia ter impedido o incidente envolvendo a Hugging Face ocorrido em julho. O CEO Jensen Huang participará de entrevista às 8h (ET) para detalhar o programa, comentar a situação da segurança em IA e indicar o que, segundo ele, os laboratórios deveriam fazer. Huang sustenta há muito que o desafio da segurança em IA é, fundamentalmente, um problema de engenharia, e a nova iniciativa parece representar sua proposta de solução técnica. Analistas dizem que a plataforma pode alterar práticas de governança, acelerar adoção de agentes autônomos e provocar debates regulatórios sobre responsabilidades e padrões de auditoria.