本文へスキップ
原文
Import AI· Jack Clark·· 21 日前AIスコア55

Import AI 474:Platonic mindspace、宇宙のTPU、ZhipuのGLM-5.3によるインフラ自動化

Import AI 474: Platonic mindspace; TPUs in space; Zhipu starts an outer RSI loop

AIによる概要

Jack ClarkのニュースレターImport AI 474は、Michael Levinの「心はプラトン的空間のパターン」とする論文、ロボット向け汎用ポストトレーニングの提案、GoogleのProject Suncatcher、Zhipu AIによるGLM-5.3を使ったインフラ開発などを取り上げた。Zhipuの事例ではGLM-5.3-Flashが2週間足らずで本番対応に達し、エンドツーエンドのスループットが初期ベースラインの3倍になったという。

解説

冒頭ではMichael Levinの論文を紹介している。心と脳の関係を数学的パターンと物理的な形態形成の関係になぞらえ、身体や機械はパターンが物理世界に入り込むためのインターフェースだと論じる。xenobotsやanthrobots、ソートアルゴリズムに摂動を加えた実験を例に挙げる。決定的な実験はまだないが、Clarkは人間とAIの心がこの空間で近い位置にあるのかもしれないと読み、数時間かけて読む価値があると薦めている。

ロボティクスについては、StanfordのPerry DongとChelsea Finnの記事を扱う。大規模言語モデルでは、強い事前学習モデル、環境と報酬の定義、RL最適化、報酬ハッキングへの対処という共通レシピが定着した。ロボティクスは事前学習が進んだ段階にあり、数十億パラメータでも安定し少量の経験で学べるポストトレーニング手法と標準的な慣行が欠けているという。著者らは開発中のEXPO(-FT)を一例として挙げている。

GoogleはProject Suncatcherの進捗として、パートナーのPlanetとともにSpaceXのTransporter-18ライドシェア・ミッションでチップを打ち上げる準備を進めている。Trillium TPUは5年間の宇宙ミッションで受ける全電離線量を超える放射線にも耐えたとされ、現在は宇宙空間での冷却に取り組んでいる。

Zhipu AIの記事では、GLM-5.3を搭載したInfra Agentが分析、仮説、コード変更を担い、エンジニアが目標と境界を定める最適化ループでGLM-5.3-Flashを立ち上げたと説明する。自動化の条件として、フィードバックが局所的であること、安価で迅速であること、客観的に検証できることを挙げている。

Periodic Labsは、物理ラボの実機を使った強化学習で部分的に訓練したPeriodic Neonを紹介している。内部評価セットFrontierXRDでの成功率は55.3%で、Kimi 2.6の2.7%を大きく上回る。1,300基のH200 GPUを使用した。このほか、古い画像生成モデルを試せるOld Models Foundationと、短編のTech Talesも収録されている。

出典: Import AI · importai.substack.com