Goodfireの研究者Nick Cammarata、LLMは従来より理解・制御しやすいと主張

Goodfireの研究者Nick Cammarataが、LLMは従来考えられていたより理解・監視・制御しやすい可能性があると主張する2万6000語のブログ記事を公開した。根拠として、画像認識モデルInception v1で車と猫の両方に反応していたニューロンについて、共通するV字形のパターンを捉えていたと再解釈した例が挙げられている。一方、Stanford大学のChris Pottsは、この主張は直感に近く、問題を容易にするものではないと指摘している。