TLDR;

Meta suspendeu a ferramenta após forte reação pública e críticas de grupos como SAG-AFTRA por causa dos riscos de uso indevido, conteúdo impróprio e deepfakes. A função Muse permitia gerar imagens usando o nome, a imagem e a semelhança de contas públicas do Instagram ao marcar o perfil na app Meta AI. A Meta retirou o recurso totalmente, reconheceu que “errou o alvo” e pode repensar a abordagem, mas não há garantia de retorno sem mudanças devido às preocupações sobre consentimento e transparência.

Resumo

Meta suspendeu uma funcionalidade do Muse que permitia, via app Meta AI, gerar imagens usando o nome, foto e likeness de contas públicas do Instagram depois de forte reação pública e críticas de grupos como o SAG-AFTRA. A ferramenta permitia marcar qualquer perfil público e criar conteúdo no estilo dessa pessoa — desde convites até imagens potencialmente manipuladoras — o que gerou preocupações sobre deepfakes, usos nefastos e conteúdo impróprio. Usuários e especialistas reclamaram também que a empresa havia adotado um modelo de opt-out (todos foram incluídos por padrão) em vez de opt-in, minando a transparência e o controle sobre como dados e imagens públicas são empregados para treinar modelos de IA. Em resposta ao backlash, a Meta admitiu ter errado e retirou completamente o recurso, embora possa ensaiar versões futuras. O episódio realça questões mais amplas: a forma como plataformas usam dados de usuários para treinar IAs, a falta de clareza sobre o uso de conteúdo em chatbots e modelos, e a dificuldade crescente de distinguir conteúdo humano de conteúdo gerado por IA. Também será relevante observar possíveis regulações e políticas públicas sobre o tema urgentemente.