TLDR;

Uma “estrutura para IA de fronteira” proposta é um órgão de padrões nos EUA, em formato de parceria público-privada financiada principalmente pela indústria, que criaria benchmarks, avaliaria e certificaria modelos de ponta e coordenaria práticas de segurança e auditoria. O autor acredita que a AGI está provavelmente a poucos anos de distância e que seu impacto será revolucionário, possivelmente muito maior e mais rápido que a Revolução Industrial. Os riscos citados incluem cibersegurança, ameaças biológicas e nucleares e sistemas auto‑agentes, e a proposta recomenda testes rigorosos, auditorias independentes, watermarking, controles pós‑lançamento e cooperação internacional para mitigá‑los.

Tweet

Demis Hassabis argumenta que estamos às portas de uma era transformadora com a chegada provável da AGI em poucos anos, comparável ao achado do fogo ou da eletricidade, capaz de multiplicar impactos sociais e econômicos e resolver problemas como descoberta de fármacos e energia limpa. Ao mesmo tempo, alerta para riscos críticos — cibernéticos, biológicos e nucleares — e para sistemas cada vez mais agentes e autocorretores, exigindo salvaguardas robustas. Propõe a criação, idealmente liderada pelos EUA, de um órgão de padrões para Frontier AI, estruturado como parceria público‑privada ou autorregulação influenciada por especialistas técnicos e financiada pela indústria, que estabeleça benchmarks dinâmicos para qualificar “Frontier Models” e reconhecer “Frontier Labs”. O órgão realizaria avaliações rigorosas, incluindo testes de segurança, detecção de tentativas de contornar proteções, marcação digital de conteúdos e geração de tokens legíveis, e colaboraria com agências federais, laboratórios nacionais e auditores terceiros. A adesão inicial seria voluntária com revisão pré‑lançamento; depois poderia tornar‑se obrigatória para operar no mercado americano, com possibilidade de medidas mais duras ou desaceleração coordenada. Hassabis conclui que, apesar da incerteza, devemos agir agora com ciência rigorosa e cooperação global para maximizar benefícios e mitigar riscos, definindo valores e modelos econômicos para um futuro próspero sustentável.

-
Post original: Uma Estrutura para Inteligência Artificial de Fronteira e o Nascer de uma Nova Era