CEO da Hugging Face comenta sobre o rótulo de 'perigoso' do modelo de IA da Anthropic
Modelo de IA da Anthropic é considerado perigoso, diz CEO da Hugging Face.
Conteudo
TLDR;
Ele considera que o rótulo funciona como marketing alarmista ("doom marketing") usado por grandes empresas para posicionar modelos como perigosos. Acredita que é justo o governo dos EUA buscar mais transparência sobre o que esses modelos podem ou não fazer, mas que as exigências devem ser calibradas para não sobrecarregar startups, universidades e projetos menores. Defende tratar open source de forma diferente porque modelos open source são mais fáceis de avaliar, geralmente menos capazes de concentrar riscos e ajudam a distribuir controle e transparência pela comunidade.
Resumo
Na conversa, argumenta-se que a rotulagem de “frontier AI” funciona como bom marketing e que é razoável o governo dos EUA exigir mais transparência sobre capacidades de grandes modelos, dado o histórico de “doom marketing” desde GPT‑2; empresas gigantes e em rápido crescimento têm condições legais e técnicas para lidar com regulação, mas é preciso cautela para não sobrecarregar startups, academia e projetos menores. Defende-se distinguir entre laboratórios fronteira e open source porque os riscos e capacidades perigosas estão concentrados nos primeiros, enquanto modelos open source tendem a ser menores, mais fáceis de auditar e com proveniência diversa. O ecossistema de open source está em pleno crescimento — provedores de inferência, Hugging Face, milhões de modelos e datasets novos e adoção crescente por empresas americanas — o que permite “possuir” IA em vez de apenas alugá‑la via APIs. Em robótica, a transparência do open source é ainda mais vital: quando robôs interagem em casa, especialmente com crianças, não se deve confiar em caixas‑pretas de megacorporações; código aberto traz controle, segurança e um ecossistema variado. Como exemplo, um robô open source desenvolvido foi distribuído em larga escala, mostrando entusiasmo do mercado. Isso demanda governança inclusiva, auditoria contínua, colaboração internacional, regras claras e responsabilidade.