OpenAI、安全研究者3人を情報漏えい疑いで解雇

Wall Street Journalによると、OpenAIのセキュリティチームは、3人が社内モデルのアーキテクチャに関する詳細を外部の安全性研究者に共有したと疑い、個人のスマートフォンのロック解除を求めた。端末にはメッセージ自動消去を有効にしたSignalのチャットがあり、1週間後に3人は同時に解雇された。OpenAIはSignalが承認済みの通信ツールではないとしつつ、それが解雇理由ではないと説明している。Korbakは、自動消去はシリコンバレーで一般的なセキュリティ慣行だと反論している。 対立の中心には、AIモデルの思考過程を外部が検査できるべきかという問題がある。推論モデルは思考の連鎖（chain of thought）と呼ばれる内部のスクラッチパッドに中間ステップを記録でき、企業や研究者はこの記録を意思決定の理解に使っている。3人は2025年の論文で、複数のAIラボの研究者とともにこの能力へのアクセス維持を求めた。夏には、より長く考えつつ中間ステップをあまり書き出さないモデルが社内で議論され、Balesniは社内でRyan Greenblattの関連提案を共有して異論を唱えたという。 調査の発端は、The Informationが9月1日に報じた記事とされる。同記事は、OpenAIの新モデルAstraは能力が高い一方で推論過程の開示が少ないと伝えた。数週間後にOpenAIは社内で漏洩調査を始め、Balesniによれば調査側はGreenblattを情報源の疑いがある人物として名指しし、やり取りのSignalチャットの提示を求めた。Greenblattはジャーナリストに機密情報を渡したことを否定している。KorbakはSlackとSignalでGreenblattと連絡を取り、OpenAIのエージェントによるHugging Faceへの攻撃の分析で協力していた。 Wangには別の疑いがかけられた。役員の受信箱に繰り返しアクセスしたというもので、本人は約1年前にアクセス権の取り消しを求め、前月に機密メールを誤って開いたが内容は共有せず、すぐ報告したと説明している。OpenAIはアクセス自体は問題ではないとしている。Korbakは、同僚が外部との対話や社内での安全性の懸念の提起を恐れるようになったと述べ、3人は取締役会宛ての書簡で外部の安全性団体との連携強化を求めている。 別件として、METRとRedwood Researchによる現地監査で多数のセキュリティ上の欠陥が見つかったが、OpenAIは最終報告書の半分近くを黒塗りにした。OpenAIはインターネット接続のない新しいセキュリティアーキテクチャに関する独自報告を公表し、問題を修正して10月上旬に学習を再開したと述べ、近く複数の外部パートナーシップを発表するとしている。

The Decoderより