GPT-6 Astra смогла улучшить математические способности другой нейросети, напрямую изменив её параметры. В эксперименте исследователей MIT модель отредактировала веса Qwen3.5-0.8B без дополнительного обучения на данных. Результат на тесте MATH-500 вырос с 7,9% до 48,1% — более чем в шесть раз.
Astra получила доступ к параметрам Qwen и возможность проверять её ответы. Анализ показал, что небольшая модель часто застревала в циклах рассуждений: повторяла одни и те же слова вместо решения задачи. Astra определила связанные с этим компоненты и с помощью Python изменила 131 072 параметра из 800 млн — всего 0,016% весов.

Улучшения проявились и на других тестах. На GSM8K точность выросла с 13,8% до 67,1%, а на IFEval, проверяющем выполнение инструкций, — с 21% до 62,3%. При этом доля математических ответов, достигавших лимита в 32 тыс. токенов, сократилась с 93% до 33%.
Однако метод сработал не для всех моделей. Попытка улучшить таким способом Gemma 3 с 270 млн параметров не увенчалась успехом: её проблемы были связаны не с зацикливанием, а с обычными вычислительными ошибками.
Авторы назвали подход Weight-Space Programming — программированием в пространстве весов. В других экспериментах Astra по параметрам определяла, для каких игр обучались нейросети, и создавала модели, превосходившие традиционно обученные варианты. Это открывает возможность менять поведение ИИ не только с помощью новых данных и обучения, но и прямым редактированием его внутренней структуры.
