Import AI 460：社会のリワードハッキング、AnthropicのRSI指標、RLドローンレースを論じる

SocioHackはKings College London、Fudan University、The Alan Turing Instituteによるベンチマークで、72の社会シミュレーション環境からなる。内訳はHistorical 32、Synthetic 20、Fictional 20で、Historicalは過去に修正された規制の抜け穴を再現している。RLで訓練したモデルは、直接的な指示なしに過去に塞がれた手法をrecall 61.25%、precision 90.85%で再発見したという。Jack Clarkは、これは能力評価に近いと述べ、行政手続きが自動化された主体に悪用される「institutional DDoS」を懸念している。

Jack ClarkはAnthropicで、いわば日常的な形のリカーシブな自己改善（RSI）が始まっている証拠をまとめたと書いている。2026年にマージされたコード量は2021年から2024年と比べて8倍で、この傾向は2025年に始まり2026年に加速したとされる。決定的な証拠ではないとしつつ、パラダイムを変えるほどの創造性をAIが示す兆候はまだないと述べている。

チューリッヒ大学とGoogle DeepMindの研究では、マルチエージェント強化学習で訓練したドローンが、時速22 m/s超のレースで5回のスイス全国チャンピオンであるMarvin Schaepperに勝った。衝突率は従来の単一エージェント基準より50%低く、1対1のレースで完走率は100%、人間は平均53.33%だった。訓練はPPOを使い、単一のNVIDIA RTX 4090 GPUで約27時間、2億回の環境インタラクションで済んでいる。追加の実機向け訓練はなく、シミュレーションで学んだ方策がそのまま使われた。Clarkは、処理がローカルではなくネットワーク経由で動く点を留意点に挙げている。

Natureに掲載された研究は、国家管理メディアの文章がLLMの学習データに入り、政府に関する回答に影響すると報告している。中国語版CulturaXの1.64%が国家系データと重なり、Llama 2 13Bを6,400例で学習させると、約80%の確率で基本モデルより好意的な回答になった。37か国の監査でも、報道統制が強い国ほど、公用語での質問は英語より政権寄りの回答になりやすかった。Clarkは、国ごとのサンプルが小さい点を指摘し、多言語でのレッドチーミングを提案している。