「リバース・ゲーム理論」でAIエージェントを制御する可能性

「リバース・ゲーム理論」（メカニズムデザイン）は、AIの内部を解明せずに望ましい行動を促すインセンティブを設計して制御する手法として提案されている。Stephen Morrisらの論文は、テストで能力を低く見せる「サンドバッギング」を防ぐため、別のモデルの回答を予測させて報酬を与える案を示した。Princeton大学のElad Hazanは、解答役と監査役を交互に担わせ、不正を見逃した監査役も罰する仕組みを提案している。