TLDR;

É um trocadilho com "deep learning" e o título do livro em que ela propõe repensar e desconstruir a ascensão dos grandes modelos de aprendizado profundo e o idealismo tecnológico. Foi demitida em 2020 após escrever um artigo que alertava para os perigos dos grandes modelos de linguagem e expunha problemas de discriminação e conflitos dentro do Google enquanto co-liderava a equipe de ética em IA. Modelos treinados em dados enviesados da internet e sistemas como reconhecimento facial e ferramentas de avaliação de risco tendem a ter taxas de erro muito maiores para pessoas negras, reproduzindo e ampliando o racismo algorítmico.

Resumo

Em uma entrevista ao Democracy Now, Timnit Gabru — fundadora do Distributed AI Research Institute (DARE), cofundadora do Black in AI e ex-colega líder da equipe de pesquisa em IA ética do Google demitida em 2020 — explica sua visão crítica sobre o que chamamos de “IA”: um guarda‑chuva que agrega técnicas, ferramentas e produtos muito distintos, como visão computacional, sistemas especialistas e os atuais modelos de linguagem profunda. Ela relata sua experiência combatendo vieses e desigualdades, desde estudos que mostraram que ferramentas de reconhecimento facial erram muito mais com mulheres de pele mais escura até investigações sobre sistemas de risco penal que prejudicam populações negras. Gabru conta que criou o Black in AI ao notar a subrepresentação negra em conferências e decisões sobre tecnologias que afetam vidas; e que, no Google, liderava um pequeno grupo de ética em meio a tumultos corporativos e ao movimento Black Lives Matter, quando surgiram as primeiras versões do GPT‑3. Ela adverte que a elevação midiática de certas especialidades transforma técnicas em “IA” e incentiva uma corrida por modelos cada vez maiores, dependentes de enormes quantidades de dados da internet, o que complexifica debates sobre benefícios, riscos e responsabilidade e a necessidade de regulação