Bill Gates氏、約20年続くAIによる混乱への備えを訴える The Vergeのインタビュー

Gates氏は8月下旬に公開したエッセイ以降、AIの安全性について発言を強めている。インタビューでは、過去1年のAIの進歩として、コード作成やサイバー上の欠陥の発見、生物学での推論、人間関係の形成、雇用市場の混乱を挙げた。差し迫った危険は、セーフガードを外せるモデルがサイバー攻撃やバイオテロに使われることだとし、AGIの定義や意識の有無は安全性の議論に関係しないと述べた。AIは意識を持たないとの立場で、別種の知能を作っているという認識を示している。

制御（アラインメント）の問題については、現状では十分ではないとした。解決の方向性として、RLに代わる学習方法の開発、モデル内部を理解できる可視化、記号的で破れないルールを持つ警察のような安全層の3つを挙げ、最後のものが最も有望だとする。ただしアラインメントを解いても、悪意ある利用者や雇用への影響は残ると指摘した。複数の企業が競争する状況では、責任は企業ではなく政府にあるとし、現在の任意の連絡に頼る体制は不十分だと述べた。

オープンウェイトについては、安全策を外せる状態は無責任だとした。一定以上の能力を持つモデルは、カスタマイズ時に安全策が外されていないかを確認するプラットフォーム上でのみ動かせるようにし、米国の法律で義務づけるべきだと説明した。規制はチップではなく、HuggingやGitHubのような配布プラットフォームの水準で行うという考えである。製造物責任による管理は、いずれ笑い話になると述べた。

雇用については、AIが超人的な知能に達すれば、事務的なホワイトカラーの技能の希少性が失われ、いずれヒューマノイドロボットが肉体労働にも及ぶとした。今後2〜3年でサイバー攻撃と雇用市場に大きな悪影響が出るとみる一方、20年後には物不足のない豊かな社会に至る可能性があるとし、問題はその移行期だと語った。Gates Foundationは保健、教育、農業でAIを活用しており、アフリカの言語をモデルに理解させる取り組みを60のパートナーと発表したと述べている。