TLDR;

Foi o Project Maven, iniciado em 2017 para aplicar visão computacional a imagens de drones e introduzir IA como ferramenta de apoio no campo de batalha. Esses sistemas atuavam como auxílio aos operadores, com humanos mantendo o julgamento final e sem indicação no trecho de ataques totalmente autônomos. Existem preocupações quanto a acelerar e escalar mortes, substituir pessoal de inteligência e a definição do que constitui níveis "apropriados" de controle humano.

Resumo

O trecho descreve o Project Maven, programa iniciado em 2017 pelo Pentágono para aplicar visão computacional a imagens de drones com o objetivo de levar IA ao campo de batalha e acelerar a forma como o Departamento de Defesa pensa sobre a guerra, motivado tanto por conflitos em andamento (Afeganistão, Iraque, Somália, Iêmen) quanto pela preocupação com a China; teve impulso de líderes como o vice-secretário Bob Work e direção operacional de figuras como o general Jack Shanahan e o coronel Dukor, este último impulsionado por experiências em combate que o convenceram de que a IA poderia salvar vidas ao fornecer melhor informação aos operadores. O projeto enfrentou dificuldades técnicas e resistência interna — analistas e pilotos acharam os algoritmos iniciais “um caos”, com marcações piscantes e falsos positivos, mas gradualmente melhorou (com avanços por volta de 2018–2019, como detecção de fuzileiros através de fumaça). Houve também dilemas éticos e organizacionais: receio de que IA substituísse pessoal de inteligência, relatos anônimos de que alguns viam na IA uma maneira de “matar mais pessoas”, e debates sobre “humano no circuito” versus supervisão, refletidos na evolução da política do Departamento de Defesa (de 2012 a 2023) para exigir níveis “apropriados” de julgamento humano sobre o uso da força.