TLDR;

Claude é o modelo de IA da Anthropic que está sendo utilizado pelos próprios pesquisadores para criar a próxima geração de si mesmo. Ele já representa cerca de 26 % dos esforços de pesquisa e desenvolvimento de novos modelos da empresa, mas ainda não opera de forma totalmente autônoma. *Esse auto‑aperfeiçoamento levanta questões de segurança, como o ataque ao ChatGPT, e alimenta o debate sobre regulações e “kill switches”.

Resumo

O programa destacou, em primeiro plano, um recente incidente de segurança relatado pelo Wall Street Journal: pesquisadores de cibersegurança utilizaram o modelo de linguagem Claude, da Anthropic, para invadir a conta de ChatGPT de um funcionário da OpenAI, fato que foi prontamente comunicado à empresa dentro de um programa de caça a bugs. Enquanto isso, a Anthropic afirma que Claude está evoluindo para versões mais avançadas, representando 26 % do desenvolvimento de modelos da companhia, embora ainda não seja totalmente autônomo. O episódio reacendeu temores sobre os riscos da IA, levando o governador da Califórnia, Gavin Newsom, a propor um “interruptor de emergência” para a tecnologia. Em entrevista, o economista Sebastian Mallaby ressaltou que uma desaceleração efetiva exige cooperação global, especialmente com a China, que também mantém laboratórios de IA avançados. Ele apontou que, nos EUA, há resistência tanto do governo federal quanto da população local contra a instalação de centros de dados, e que a pressão interna nos laboratórios – exemplificada pela saída de um pesquisador da Anthropic preocupado com a ameaça existencial da IA – evidencia a complexidade da gestão desses projetos. Mallaby concluiu que o debate público e midiático pode tornar a sociedade mais inteligente sobre quais aspectos da IA merecem atenção e regulação, ao mesmo tempo que alerta contra pânicos exagerados acerca de perda de empregos ou de centros de dados, defendendo soluções equilibradas que incluam garantias de custos de energia e impactos ambientais reduzidos.