The dangers of AI reading our faces
Inteligência artificial pode ler nossas emoções mais rápido do que nós mesmos.
Conteudo
TLDR;
Esses aplicativos não conseguem realmente ler personalidades; pesquisas mostram que a IA não é melhor que humanos e os resultados não têm fundamento científico. O risco é que empresas e governos adotem essa pseudociência para decisões importantes (contratações, segurança), agravando discriminação e danos sociais. Aparentes acertos vêm de vieses e sinais indiretos nos dados (fotos de fichas policiais, iluminação, ângulo ou condições médicas), e não de traços faciais que revelem caráter.
Resumo
Aplicativos que afirmam ler rostos para revelar personalidades reapresentam a antiga pseudociência da fisiognomia — ligada também à frenologia e com impactos históricos muito perigosos (pense na Alemanha nazista) — e agora ganham fôlego com IA. Jonathan Jerry explica que, embora esses apps deem descrições agradáveis (como “guardião estável” ou comparações a figuras famosas), a ideia de que caráter ou destino esteja “escrito” no rosto é falsa: humanos tendem a fazer julgamentos imediatos pela aparência, mas isso não significa que sejam verdadeiros. Estudos mostram que sistemas de IA também não conseguem inferir traços como criminalidade, orientação sexual ou autismo; quando parecem ter sucesso, normalmente estão explorando vieses e artefatos dos dados (por exemplo, treinar com fotos de criminosos que são mugshots e fotos de não criminosos que não são, ou confundir sinais de anomalias cromossômicas com autismo). O perigo real não são as brincadeiras entre amigos, mas a adoção dessas tecnologias por empresas e governos — startups vendendo detecção de “terroristas” ou empregadores usando análises faciais para julgar candidatos podem perpetuar discriminação, erros e danos. Em suma: é pseudociência, baseada em pesquisas falhas, e devemos ser céticos diante de reivindicações que transformam aparência em destino.