注目のストーリー経過観察中
LoCo、推論の過剰思考を局所選好学習で圧縮
1件の報道1件のソース2 日前更新
これまでの経緯
報道より
LoCo は、推論モデルがいつ思考を打ち切るべきかを局所的な選好学習で教える推論圧縮手法である。数学の5つのベンチマークで完了長を41.7%〜45.4%、コードの3つのベンチマークで23.4%〜36.3%削減し、精度は維持または向上した。学習は自己生成した数学の推論トレースのみで行われ、コード生成にも転移する。コードとモデルは公開予定とされている。
Hugging Face Daily Papersより
報道タイムライン
報道を追って、ストーリーのさまざまな側面を確認しましょう。
11月3日
- Hugging Face Daily PapersLoCo、局所的な選好学習による推論圧縮手法
LoCo は、推論モデルがいつ思考を打ち切るべきかを局所的な選好学習で教える推論圧縮手法である。数学の5つのベンチマークで完了長を41.7%〜45.4%、コードの3つのベンチマークで23.4%〜36.3%削減し、精度は維持または向上した。学習は自己生成した数学の推論トレースのみで行われ、コード生成にも転移する。コードとモデルは公開予定とされている。
このニュースの注目度の推移
推移を表示するための継続的な観測データがまだ足りません。