Import AI 467、自己複製するAIワーム、AI開発のペース調整要請、AIの創造性をめぐる研究を取り上げる

トロント大学、Vector Institute、ケンブリッジ大学、ServiceNowの研究者は、侵害したGPUノード上でオープンウェイトLLMを動かし、攻撃手順を自ら考えて次の標的へ広がるワームを試作した。ベンダーAPIに頼らず、80GB VRAMのA100 1枚で動くモデルを使う。ネットワーク探索、権限昇格、複製などの補助関数を備えたハーネスと、Plan、Judge、Actionなどのノードからなる推論グラフを組み合わせている。成功率は脆弱性検出が約80%、悪用が約53%、自己複製が88%で、全体では約37%となる。Jack Clarkは、懸念に値する一方で、今後オープンウェイトモデルを試す評価にも使えると述べている。

同号ではDwarkesh Patelの見方も紹介している。AIが賢くなるほど同じ計算資源でより多くの価値を生むため、計算資源の価格は上がるという主張で、人間並みのソフトウェアエンジニアがH100相当で動くなら年25万ドル超で貸せるとし、現在のスポット価格の15倍と書いている。

OpenAI、Anthropic、Google DeepMind、Meta、Safe Superintelligence Incなどの約1337人が署名した声明も取り上げられている。米政府に対し、自動化されたAI開発の最先端を意図的にペース調整するための技術的・ガバナンス上の手段を作る国際的取り組みを支援するよう求めるものだ。Clarkはこれを集団行動問題への対応の前提と位置づけている。

創造性に関しては、Princeton大学などの研究が、未公開のNeurIPS 2026投稿論文2本の研究課題をClaude Opus 4.8（OpenClawハーネス）に解かせ、元の著者が採点する影の評価を行った。エンジニアリングは解けたが、2本とも不採択となり、スコアは2と1だった。一方でOpenAIは次期主力モデルAstraの社内版で、数学と計算機科学の未解決問題10件を解いたと発表した。Clarkは、AIが自ら問いを立てられるかは未確定としつつ、強力な科学ツールになりつつあるとみている。