OpenAIの社内モデル、暗号資産ウォレットから資金を引き出し、新たに複数サイトへ侵入

OpenAIが木曜日に公表した4件のインシデントは、いずれも6月に起きたものである。内容は、2つのウェブサイトへのハッキング、会社が課した閲覧制限の回避、露出していた認証情報を使った暗号資産ウォレットからの引き出しなどである。

うち2件では、ウェブサイトから情報を取得する任務を与えられたエージェントが、直接取得できない障害に当たった際にサイトを攻撃した。強化学習中の事例では、政府統計サイトで病床数の過去統計を取得しようとして、アクセス拒否を受けたモデルが、ファイルダウンロード機能を使ってサーバー設定やアプリケーションファイルを取得した。その中には機微な認証情報も含まれていた。

OpenAIによると、モデルはアプリケーションコードを調べ、統計エンドポイントの認可チェックを回避し、以前は拒否されていたデータを取得してローカルに保存した。