自動運転E2Eモデルは何を見ているのか、Integrated Gradientsによる解釈

実車の6カメラを入力とするE2E自動運転モデルの出力に、XAI手法のIntegrated Gradients（IG）を適用し、判断根拠をピクセルレベルで可視化した。右折時の対向車への注目や、青信号に変わった瞬間に青ランプへ帰属が生じる様子が確認できた。記事ではIGの2つの公理（Sensitivity、Implementation Invariance）と定式化、既存手法との比較、PyTorch実装も解説する。