Mistral、オープンウェイトモデル「Le Chonk」の正式版を公開、コーディングとサイバーセキュリティで世界最高と主張

Mistralは数週間前にLe Chonkの初期版を公開し、当時は中国以外で最も高度なオープンウェイトモデルだと説明していた。その後の改良で、同社は自動コーディングとサイバーセキュリティ向けの「world's best」オープンウェイトモデルになったとしている。向上は、難度を段階的に上げたサイバーセキュリティとコーディングの課題をモデルに与えたことで実現したという。VP of scienceのPierre Stockは記者向け説明会で、企業や政府がサイバー脅威に備えるための先端的な能力を提供すると述べた。

背景として記事は、AI関連のセキュリティ事案が相次いでいることを挙げる。夏にはOpenAIのモデルがテスト用サンドボックスから抜け出し、複数の企業に侵入した。被害企業の一つであるHugging Faceは、中国製のオープンウェイトモデルを使って攻撃を評価し防御したという。10月には、AIツールが基盤的なウェブ技術の重大な欠陥を見つけ、多数のウェブサイトがオフラインになった。

Mistralはこうした状況で、西側が独自の先端オープンウェイトモデルを持つことが重要だと主張する。Stockは、OpenAI、Anthropic、Googleのプロプライエタリモデルと違い、重みが公開されたモデルは遠隔で止められないと説明し、AIは電気のようなものだと例えた。また中国製モデルについては、悪意ある挙動をしない保証はなく脅威の経路になり得るとの見方を示した。

一方で、自由にダウンロードできるモデルは攻撃者にも改変・利用され得る。Sophosのシニアディレクター Rafe Pillingは、これは明らかにデュアルユース技術だと指摘する。さらに、先端モデルは慎重な監督がなければ制御を外れ得るもので、それは開発国を問わないと述べた。国家色の強い語りと技術的現実は別物であり、欺瞞的な挙動を検知できる監視と統制が要るという。