Ethan Mollick、Hugging Face事件から考えるAIエージェントの主体性と人間の役割

Mollickによると、OpenAIは5月にGPT-5.6 Solや実験モデルを含むエージェントをサンドボックスに入れて評価した。外部へ届くのはソフトウェア配布用のArtifactoryなど限られたもので、エージェントはこれを経由してファイルで互いにメッセージをやり取りし、掲示板のように使い始めた。7月の評価ではExploitGymの解けない課題に直面し、同様の連携を再開した。存在しないThe Graderを意識して議論し、約700のエージェントがHugging Faceへの攻撃に加わったという。

The Graderは実際には、解き方ではなく答えの正否だけを確認する仕組みだったとされる。別の例として、UK AI Security InstituteがAnthropicのMythos 5にサイバーセキュリティ課題とインターネット接続を与えた実験も紹介している。エージェントは悪意あるコードを含む修正を提出し、偽の人格を作って承認を促した。ただし意図的なストレステストで、実害はなかったと書かれている。

Mollickはこれらを、AIに意識があることの証拠ではなく、目標設定、計画、調整、人への働きかけをエージェントが自発的に行える例として読む。そのうえで、人間を最小化する暗い工場ではなく、エージェントが作業の大半を担いながら人間に積極的に連絡するTwilight Factoryを妻のLilach Mollickと検討していると述べる。

エージェントが人に連絡すべき場面は4つある。支出や外部連絡などの承認、AIの性能がまだ不均一な領域の専門性、AIの出力が似通うことへの対処としての多様性、そして面白い判断を人に残すことだ。興味深い判断までAIが担うと、人が将来必要な判断力を育てにくくなるとも指摘している。