アルトマン氏、AI安全性の3つの構想を社内で提示

報道によると、第一の案はIAEAをモデルにした組織で、安全基準を執行する。システムの検査、監査の義務付け、計算資源とエネルギー使用の監視を担い、中国を含むフロンティアモデル開発国との国際協力が前提になる。OpenAIは2023年5月に同様の機関を公に求めていた。 第二の案はAltman氏が「Demis Plan」と呼んだもので、約10年前にDemis Hassabis氏が示したCERN型のAI組織構想に由来する。Altman氏の版では主要ラボが一つの組織に統合されるか、その傘下で運営され、協力する国にモデルを供給する。 第三の「Eliezer Plan」は、AI安全性の理論家Eliezer Yudkowsky氏にちなむ。自己改善するAIで経済力を集中させた開発者が他者への計算資源提供を断ち、極端な場合は他者の計算能力を完全に止める筋書きである。Altman氏は網羅のために挙げただけだとされるが、Yudkowsky氏とAnthropicの関係を踏まえ、競合への皮肉と受け取られたとの証言もある。 背景として、Altman氏はAI開発の「速度制限」について実現可能な提案が少ないと社内で不満を述べたという。一方でOpenAIは競合に後れを取れない状況にあり、OpenAIとAnthropicはともにIPOに向けて動いているとされる。OpenAIは今後1年以内に進路を決める計画である。社内では安全研究者3人の解雇を受け、安全戦略に疑問を持つ従業員もいる。

The Decoderより

推移を表示するための継続的な観測データがまだ足りません。