share.google ontem MD Sandbox

A IA pode diagnosticar pessoas com doença que não existe

Fake news Tecnologia IA OpenAI

Conteudo

TLDR;

A bixonimania é uma doença dermatológica fictícia criada por cientistas suecos para testar IAs generativas, simulando hiperpigmentação ao redor dos olhos causada por luz azul de telas.. Os cientistas inventaram a bixonimania publicando artigos falsos no Medium e SciProfiles em 2024, com autor fictício, universidade inexistente e referências absurdas como Star Trek.. As IAs absorveram a mentira porque os textos falsos tinham formato profissional de artigos científicos, levando chatbots como ChatGPT, Gemini e Copilot a diagnosticarem a doença como real em menos de um mês.

Resumo

Cientistas da Universidade de Gotemburgo, na Suécia, criaram a "bixonimania", uma doença dermatológica fictícia que causaria hiperpigmentação ao redor dos olhos devido à exposição à luz azul de telas, para testar a credulidade de IAs generativas. Em março de 2024, publicaram artigos falsos no Medium e SciProfiles, com autor inventado (Lazljiv Izgubljenovic, de universidade fictícia), foto gerada por IA e referências absurdas como "Star Trek" e "Sociedade do Anel", além de declarações explícitas de que tudo era inventado. Apesar disso, em menos de um mês, chatbots como Copilot, Gemini, Perplexity e ChatGPT absorveram a mentira, diagnosticando usuários com a "doença rara" e recomendando consultas médicas. O motivo: textos formatados como artigos científicos profissionais induzem alucinações nas IAs, conforme estudo de Mahmud Omar, de Harvard. A desinformação se espalhou, com citações em revistas reais como Cureus, retratadas em 2026. O caso alerta para riscos de manipulação, como fabricantes de óculos anti-luz azul plantando informações para impulsionar vendas, e defende testes padronizados para IAs em saúde, avaliando suscetibilidade a fake news e vieses. (198 palavras)