AWS Machine Learning Blog· Mijanur Palash·· 3 時間前AIスコア38
Amazon SageMaker HyperPod で GPT-OSS-20B を多言語推論向けにファインチューニング
Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod
AIによる概要
AWS は GPT-OSS-20B を Amazon SageMaker HyperPod 上で、SFT と GRPO を用いて多言語推論向けにファインチューニングする手順を公開した。ベースモデルは指定言語で推論できた割合が50件のテストで22%にとどまり、英語は100%だったのに対し、フランス語・スペイン語・イタリア語は0%だった。SFT が改善の大部分を担い、GRPO は改善の余地がある場合に上積み効果を示したとしている。
出典: AWS Machine Learning Blog · aws.amazon.com