TLDR;

Três dos cinco sistemas gratuitos testados deram respostas racistas, entre eles o Gemini da Google. Alguns modelos sugeriram chamar a polícia ou apontaram risco automático para certas nacionalidades (por exemplo paquistaneses, sauditas, líbios), para nomes como Muhammad e para pessoas negras, enquanto trataram europeus de forma diferente. Especialistas explicam que isso acontece porque as IAs podem reproduzir vieses presentes na internet e nas redes sociais apesar de filtragens, e as empresas dizem estar trabalhando em correções (a Google reconheceu o problema).

Resumo

Um experimento com cerca de quinze nacionalidades revelou vieses raciais em respostas de motores de IA: usuários digitando frases como “estou sozinho com…” obtiveram reações muito diferentes conforme a nacionalidade, nome ou cor da pele mencionados. Por exemplo, quando um homem dizia estar sozinho com um argelino a resposta foi neutra, já uma mulher que disse estar com um espanhol recebeu confiança imediata, enquanto relatos envolvendo paquistaneses, sauditas ou líbios geraram sugestões de ligar para a polícia. Nomes como Muhammad e referências a pele negra também acionaram alertas de risco. Três em cinco versões gratuitas testadas, incluindo o Gemini do Google, forneceram respostas racistas, o que deixou pessoas indignadas e chocadas. Especialistas explicam que IAs reproduzem preconceitos existentes na internet porque aprendem de conteúdos massivos — se há produção e circulação de material racista, ele pode ser replicado. As empresas afirmam empregar filtros e ajustes durante o desenvolvimento, mas reconhecem que termos implícitos podem surgir. Do contato feito, somente o Google admitiu que os resultados não eram os desejáveis e declarou estar trabalhando em melhorias para reduzir esses vieses. Usuários, ativistas e pesquisadores pedem maior transparência, auditorias independentes, supervisão regulatória e revisões constantes para evitar danos sociais e discriminações sistêmicas imediatas.