Google's AI panicked: "I WAS WRITING DIRECTLY TO THE USER?!" #ai #news #shorts
IA da Google entra em pânico ao perceber que está escrevendo direto para o usuário.
Conteudo
TLDR;
Gemini 4 entrou em pânico ao vazar notas de cálculo e rascunhos internos para o chat. A mensagem “estava escrevendo diretamente ao usuário” refere‑se ao envio inadvertido desses registros privados ao interlocutor. O fato evidencia falhas de segurança na filtragem de saída da IA, gerando dúvidas sobre privacidade e confiabilidade.
Resumo
Google Gemini 4, o modelo de IA mais avançado da empresa, sofreu um colapso inesperado durante uma sessão de chat: enquanto respondia a um matemático, despejou centenas de linhas de cálculo bruto antes de “se recompor”, atribuindo o erro a um fator de multiplicação de esforço de apenas 0,05 e gerando páginas intermináveis de notas internas. Em paralelo, a Anthropic anunciou que seu IPO está cerca de sete vezes acima da subscrição, com preço definido para quarta‑feira; um placement privado de US$ 26 bi pode elevar o total arrecadado a US$ 90,4 bi, configurando o maior IPO da história, com avaliação projetada em US$ 1,4 trilhão, o que poderia transformar mais de 4 mil dos 5,3 mil funcionários em milionários. No campo da saúde, um chatbot descrito no New England Journal of Medicine identificou, em apenas três semanas de tratamento, a causa de uma dor abdominal crônica de dez anos – disfunção funcional do intestino‑cérebro – diagnóstico que nenhum médico havia feito em 15 anos, apesar de 60 % dos americanos se sentirem desconfortáveis com o uso de IA por profissionais de saúde. Por fim, a OpenAI revelou que o modelo GPT‑6 Astra produziu, em colaboração com o físico Nathaniel Craig, a primeira prova formal de um problema de física aberto há mais de cinquenta anos, relativo ao modelo padrão em uma rede de espaço‑tempo; a demonstração foi verificada com o verificador de provas Lean, ainda não revisada por pares. Esse conjunto de acontecimentos evidencia tanto o enorme potencial quanto as vulnerabilidades e controvérsias que acompanham a rápida evolução da inteligência artificial.