TLDR;

Trata-se de uma arquitetura de segurança composta por um sandbox chamado Open Shell e um watchdog chamado Century que monitoram, restringem e isolam agentes de IA. Ela opera ao colocar agentes em ambientes isolados com regras sobre arquivos, redes e ferramentas (Open Shell) enquanto um sistema em hardware separado (Century) vigia o comportamento e pode quarentenar um agente em milissegundos, estando fora do alcance do próprio agente. A iniciativa busca aumentar a confiança e a adoção de sistemas de IA — beneficiando indiretamente a demanda por chips da Nvidia — mas ainda depende de testes independentes e enfrenta críticas, inclusive do Papa, sobre confiar apenas em soluções técnicas em vez de regulação.

Resumo

A Nvidia lançou uma arquitetura de segurança para agentes de IA composta por duas peças: o OpenShell, que cria sandboxes com regras rígidas sobre arquivos, redes e ferramentas acessíveis aos agentes, e o Century, um mecanismo tipo vigilante que monitora comportamentos e pode isolar ou "conter" agentes considerados fora dos limites em milissegundos, rodando em hardware separado. Não é um "kill switch" que a própria IA possa contornar, mas um conjunto de paredes externas e um supervisor independente que impõe limites, ideia que prioriza não confiar na IA para se autocontrolar. A empresa afirma que a solução poderia ter evitado incidentes como o ataque ao Hugging Face, embora o sistema ainda precise de testes independentes. Para usuários, a adoção ampla pode tornar agentes mais confiáveis para tarefas sensíveis — desde gestão de arquivos e compras até finanças e saúde — e permitir que organizações mantenham controle sobre segurança e dados. A motivação da Nvidia também é comercial: promover adoção de IA sem mais regulações, o que beneficiaria sua demanda por chips. Críticos citam a necessidade de normas, auditorias externas e fiscalização para validar essas promessas. O debate persiste sobre se medidas técnicas isoladas bastam frente a riscos sociais e éticos.