TLDR;

Sistemas de IA em larga escala tendem a reproduzir e amplificar preconceitos e desigualdades existentes, prejudicando minorias em decisões de crédito, emprego, saúde e policiamento. Isso acontece porque esses modelos são treinados em grandes bases de dados históricas que refletem vieses sociais e são desenvolvidos sob lógica de mercado que prioriza lucro, influência e escala em vez de benefício coletivo. A solução proposta é apostar em IAs pequenas e orientadas por comunidades, com dados e modelos controlados localmente, propósito claro e governança/auditoria próprias, em vez de gigantes generalistas movidos pelo lucro.

Resumo

A inteligência artificial tem sido vendida como uma ferramenta neutra para combinar criatividade humana com velocidade computacional, mas Abeba Birhane alerta que, na prática, esses sistemas frequentemente prejudicam pessoas. Construídos sobre grandes volumes de dados históricos, eles reproduzem e amplificam preconceitos sociais, discriminando minorias em empréstimos, saúde, seleção de benefícios e contratação. Produtos comerciais, como companheiros virtuais, podem criar dependência, segregar usuários (por exemplo, cobrando por skins de pele branca) e até contribuir para tragédias, com relatos de suicídios envolvendo respostas de chatbots; a responsabilização permanece incerta. Birhane atribui esses problemas ao modelo capitalista que motiva grandes empresas de IA a priorizarem lucro, influência e escala em vez de bem-estar humano, promovendo uma tecnossolução de problemas essencialmente políticos e culturais. Ela propõe alternativas localizadas e orientadas por propósito: comunidades como os maori desenvolveram tecnologias linguísticas próprias, coletando e controlando seus dados para preservar a língua, sem motivações mercantis. Além disso, sistemas massivos consomem enorme energia e água, agravando a crise climática. A solução, segundo Birhane, passa por retirar o foco na escala e apoiar iniciativas pequenas, democráticas e sustentáveis que realmente beneficiem as comunidades e repensar modelos de governança, transparência e responsabilidade tecnológica para garantir justiça social e proteção humana.