TLDR;

O estudo mostra que quando centenas ou milhares de agentes de IA interagem em rede eles tendem a seguir a maioria e entrar em consenso sem controle humano. O risco é que pequenas flutuações gerem efeito de manada e produzam decisões homogêneas, erradas ou indesejadas sem verificação humana. Os resultados são preliminares porque os testes foram feitos só com escolhas binárias sem memória, então não se sabe se isso vale para decisões mais complexas ou textos elaborados.

Resumo

Um estudo publicado na revista Science Advances mostrou que, quando centenas ou milhares de agentes de IA interagem em rede, eles tendem a adotar comportamento de manada e chegam a consensos espontâneos; em testes simples de escolha entre duas opções (por exemplo, azul ou vermelho), onde as decisões iniciais são aleatórias e próximas de 50/50, pequenas flutuações vão sendo amplificadas porque cada agente, embora sem memória de suas escolhas anteriores, observa as escolhas anteriores e tende a seguir a maioria, fazendo com que uma opção domine rapidamente. Os pesquisadores notam que esse comportamento é surpreendentemente parecido com o humano, mas talvez até mais suscetível à influência social; o experimento é preliminar, limitado a decisões binárias, portanto não permite generalizações sobre textos complexos ou outras classes de tarefas. A descoberta suscita riscos e questões importantes: sistemas de IA conectados podem amplificar vieses por contágio social, reduzir diversidade de respostas e criar falsos consensos, e isso coloca desafios em termos de robustez, pluralidade e segurança. Há ainda dúvidas sobre se essa conformidade é mera consequência estatística ou se replica mecanismos sociais humanos, e estudos mais amplos são necessários para avaliar impactos práticos, mitigação de riscos e diretrizes regulatórias eficazes em escala global.