AI that builds itself: Golden age or time to panic? | BBC News
Inteligência artificial que se autoconstroi desperta debate: será a era dourada da tecnologia ou sinal de alerta iminente?
Conteudo
TLDR;
Uma tecnologia chamada “Eureka Machine”, desenvolvida pela startup Recursive, busca criar uma IA capaz de ler todo o conhecimento científico, melhorar a si mesma e conduzir experimentos de forma autônoma. O maior receio é que uma IA auto‑melhorável possa evoluir mais rápido que a supervisão humana, gerando um risco de “take‑off” descontrolado. O fundador Richard Socher afirma que a IA começará a se replicar internamente já no próximo ano, embora o avanço completo dependa de grande poder computacional.
Resumo
Imagine uma máquina que lê todos os artigos científicos, analisa cada equação e conduz experimentos autonomamente; esse é o objetivo da “Eureka Machine”, proposta por Richard Socher, co‑fundador da Recursive. O sistema tem quatro pilares – conhecimento mundial, dados científicos, simulações e automação laboratorial – e uma comunidade de agentes de IA que idealizam, implementam e validam descobertas. Socher afirma que a auto‑melhoria recursiva pode gerar resultados já no próximo ano, embora a necessidade de grande poder de computação impeça uma explosão súbita. Os benefícios potenciais incluem curas para câncer, órgãos cultivados, limpeza ambiental e descoberta de leis ainda desconhecidas, enquanto críticos como Rutger Bregman alertam para riscos de IA que evolui mais rápido que a supervisão humana, pedindo proibições a projetos que constroem IA. A maior preocupação reside no “lab‑in‑the‑loop”, que automatiza experimentos, reduz tarefas monótonas de doutorandos e acelera o desenvolvimento de medicamentos, mas levanta questões éticas sobre controle e responsabilidade. Socher também descreve o “AI Economist”, uma simulação de milhões de agentes para testar políticas públicas, embora economistas tenham rejeitado a ideia por temer substituição. O debate entre otimismo científico e cautela regulatória mostra que a revolução da IA ainda equilibra promessas transformadoras e a necessidade de guardrails.