AINews:Weight-Space Programmingの再現と批判、モデル公開・評価・政策の動きを一覧
[AINews] Behind Latent Space: Kill My SaaS, Jev & AI in 2026 | AIEi Shanghai
Latent SpaceのAINewsが、frontier LLMがニューラルネットワークの重みを直接読み書きする「Weight-Space Programming」の再現例と懐疑的な見方をまとめた。GPT-6 AstraによるQwen3.5-0.8BのMATH-500は7.9%から48.1%に上がったが、主因はループ失敗の修正とされる。あわせて新モデル、評価監査、推論基盤、政策・人事の話題も扱っている。
冒頭では、前日の主題だったWeight-Space Programmingについて、一部の主張が好意的に提示されすぎているとの指摘があると述べる。一方で複数の独立した再現が出ているため、撤回や否定的な続報は不要という立場である。今回の号ではAI Engineer Shanghaiと、Latent Spaceの歴史に関する独占インタビューも紹介している。
Weight-Space Programmingでは、GPT-6 AstraがQwen3.5-0.8Bの131,072個の重みを勾配計算なしで編集し、MATH-500を7.9%から48.1%に引き上げたと報告されている。Zhihuの再構成では、修正された回答579件のうち576件が元は32Kトークン上限に達するループが原因だった。層15と19のMLPから「反復方向」を取り出して差し引く手法で、改善の多くは既存の推論が最後まで完走できるようになった結果とされる。
再現例としては、Hugging FaceがML Internで再現してモデルとデモを公開したほか、Simon WillisonはQwen 3.8 27Bでノートパソコン上でも同様のことができたと報告している。他方で批判側は、適切なベースラインが欠けていること、Qwenの結果は再帰的自己改善ではなくバグ修正に近いことを挙げる。Redditでも、実態は「重みを読む」よりPythonサンドボックスを使った解釈可能性エージェントに近いという議論があった。
そのほか、Tencent Hy4、Sarvam Prism、LongCat-2.5などのモデル、Artificial AnalysisやValsの評価更新、Anthropic FlashProveの公開、vLLM v0.33.0などの基盤更新、中間選挙でのデータセンター投票、OpenAIの人事やfalの資金調達も短く整理されている。ベンチマーク監査では、AutomationBenchやOfficeQA Pro v2に採点上の問題が見つかったとされる。
出典: Latent Space · latent.space