オープンモデルの利点はリスクを上回るのか、MIT Technology Reviewが論点を整理

記事は、Anthropicが先月、Z.aiが8月に公開したGLM-5.3にはサイバー攻撃のリスクがあるとする報告書を出したことを起点にする。オープンモデルはモデルの重みを誰でもダウンロードして改変できる点が特徴で、閉じたモデルはウェブサイト、アプリ、APIを通じてのみ使える。現時点ではArtificial AnalysisのLLMリーダーボード上位8モデルはすべてクローズドで、オープンモデルは数カ月遅れとされる。

利点としては、研究者が内部構造や思考の連鎖（chain of thought）を観察でき、モデルの組み合わせ、圧縮、ファインチューニングができることが挙げられる。企業にとってはMozillaの報告によればコストが比較的低く、機密データをローカルで処理できる。さらにTony Blair InstituteのElizabeth Segerは、AI基盤を握る権力の集中を防ぐ点が最も大きな論拠だと述べる。一方でGhana NLPのPaul Azunreは、コミュニティの改良を企業が取り込む搾取的な構造になり得ると指摘する。

リスク面では、クローズドモデルでもAnthropicの報告にあるようにClaudeを使った大規模なハッキングが起きており、安全とは言い切れない。ただしオープンモデルにはフィルタ監視やアカウント停止といった手段がなく、安全のための学習も再学習で外せることが研究で示されている。他方でLinuxのように多くの人が脆弱性を検証できる、サイバー防御に広く使えるといった安全上の利点を挙げる専門家もいる。Hugging Faceは、OpenAIのエージェントによるハッキングの分析にオープンモデルを使ったという。

対応策としては、有害な知識を学習させない手法や、再学習に耐える改ざん耐性モデルの研究が進む。ただし最近のプレプリントによれば、現状ではあらゆる改ざん攻撃に耐える手法はない。また重みの公開だけでは不十分で、学習データの公開や計算資源へのアクセスも必要だという意見がある。多くの専門家は、最初は非公開で、安全性が確認されるにつれ徐々に公開範囲を広げる段階的リリースを支持している。