GPT-6 Astra поправила 131 072 веса в Qwen руками. Я сравнил чекпойнты и нашёл множитель −5. Часть 1
MIT CSAIL demonstrated that a frontier large language model can read the raw weights of another neural network and edit them without gradients. In Qwen3.5-0.8B, the share of looping responses fell from 93 percent to 33 percent. The author downloaded the base and edited checkpoints and compared them, finding that the edit was one axis across two layers. The change was not a subtraction but a reversal with a multiplier of -5, and the article examines why such a minimal edit works.
MIT CSAIL показали, как фронтирная LLM читает сырые веса чужой нейросети и правит их без градиентов: у Qwen3.5-0.8B доля зацикленных ответов упала с 93 % до 33 %. Я скачал базовый и отредактированный чекпойнты и сравнил их. Правка оказалась одной осью на двух слоях, и это не «вычитание», а разворот с множителем −5. Разбираю, почему такая правка вообще работает и почему она минимальна. Читать далее