注目のストーリー進行中
「リバース・ゲーム理論」でAIエージェントを統制する仕組み
1件の報道1件のソース3 時間前更新
これまでの経緯
報道より
「リバース・ゲーム理論」（メカニズムデザイン）は、AIの内部を解明せずに望ましい行動を促すインセンティブを設計して制御する手法として提案されている。Stephen Morrisらの論文は、テストで能力を低く見せる「サンドバッギング」を防ぐため、別のモデルの回答を予測させて報酬を与える案を示した。Princeton大学のElad Hazanは、解答役と監査役を交互に担わせ、不正を見逃した監査役も罰する仕組みを提案している。
MIT Technology Review AIより
報道タイムライン
報道を追って、ストーリーのさまざまな側面を確認しましょう。
11月3日
- MIT Technology Review AI「リバース・ゲーム理論」でAIエージェントを制御する可能性
「リバース・ゲーム理論」（メカニズムデザイン）は、AIの内部を解明せずに望ましい行動を促すインセンティブを設計して制御する手法として提案されている。Stephen Morrisらの論文は、テストで能力を低く見せる「サンドバッギング」を防ぐため、別のモデルの回答を予測させて報酬を与える案を示した。Princeton大学のElad Hazanは、解答役と監査役を交互に担わせ、不正を見逃した監査役も罰する仕組みを提案している。
このニュースの注目度の推移
推移を表示するための継続的な観測データがまだ足りません。