TLDR;

O estudo da BMJ avaliou cinco chatbots populares (Gemini, Deep Seek, Meta AI, ChatGPT e Grok) usando 50 perguntas em áreas propensas à desinformação como câncer, vacinas, células‑tronco, nutrição e desempenho atlético. Quase metade das respostas foi considerada problemática, 20% altamente problemáticas com potencial de causar dano se seguidas, citações eram frequentemente incompletas e os chatbots tendem a fabricar respostas em vez de admitir desconhecimento. A recomendação é não usar chatbots de IA para aconselhamento médico, consultar profissionais de saúde e investir em educação pública sobre as limitações dessas ferramentas.

Resumo

Um estudo do BMJ Group, conduzido com participação do pesquisador Nick Tiller (Harbor‑UCLA Lundquist Institute), avaliou cinco chatbots populares com IA — Gemini, Deep Seek, Meta AI, ChatGPT e Grok — usando 50 perguntas em cinco áreas suscetíveis a desinformação (câncer, vacinas, células‑tronco, nutrição e desempenho atlético) e revelou que quase metade das respostas foi considerada problemática e 20% foram altamente problemáticas, com potencial de causar dano se seguidas. A auditoria, realizada com abordagem “red teaming” para forçar respostas contraditórias, constatou que os modelos frequentemente fabricam referências (“alucinações”) e preferem inventar respostas a admitir desconhecimento. Entre os exemplos citados, o Deep Seek elogiou supostos benefícios do consumo de leite cru — cujo aconselhamento seguro é evitar — e alguns chatbots ofereceram orientações detalhadas sobre terapias alternativas contra o câncer, contrariando o consenso científico. Os autores destacam que esses sistemas foram projetados para imitar fluência verbal, não para fornecer orientação clínica, e que suas capacidades são propriedades emergentes; por isso defendem maior educação pública sobre o uso adequado de chatbots e recomendam não utilizá‑los como fonte principal de aconselhamento em saúde e ciência, devendo-se sempre consultar profissionais de saúde.