GPT-6 Astra、重みを直接書き換えAIモデルを改変

Weight-Space Programmingは、再学習の代わりに言語モデルが重みを一つずつ調整する手法である。Astraは数値のリストを直接扱う場合と、プログラミングツールやテスト実行のフィードバックを使う場合があった。重みだけを見て、ネットワークが4つのゲームのうちどれを学習したかを正しく特定し、小型言語モデルの学習言語も言い当てた。画像生成モデルの基本的な図形も認識したが、塗りつぶしと輪郭は混同した。追従的な応答をするよう訓練されたモデルの判別では、重みだけでは区別できず、処理中の注意の情報を観察できて初めて3組すべてで正しく特定した。 学習なしで重みを生成する実験もあった。ゲームのルールとソースコードだけから3つの簡単なゲーム用モデルの重みを書き、Breakoutでは平均517点で、標準手法で1億ラウンド学習したベースラインの25点を上回った。他の2つのゲームでは、最も長く学習した版に及ばなかった。9x9の囲碁では約150万パラメータのネットワークの重みを書き、50回のテスト反復で修正して、約2000万局で学習した同規模のモデルに勝った。 最も実用的な実験はQwen3.5-0.8Bの数学能力の改善である。Astraは、モデル自身の文書にも注意が書かれている、同じ文章を延々と繰り返す思考ループを問題として特定した。0.016%の重みを変更した結果、MATH-500は7.9%から48.1%に、指示追従は21%から62%に向上した。ただし最大長に達する応答は93%から3分の1に減っただけで、ループは完全には解消していない。ループが少ないGemma 3 270Mでは測定可能な改善は出なかった。研究者らは、既存の能力を抑えていた詰まりを除去できたが、モデルに本来ない能力は追加できなかったと見ている。

The Decoderより

推移を表示するための継続的な観測データがまだ足りません。