DeepSeek-V4-Flashを Mac mini 64GBで動かす

DeepSeek-V4-Flash-0731（総パラメータ284B、アクティブ13BのMoE）を、エキスパートの枝刈りでMac mini（M4 Pro、64GiB）上に載せ、prefillを4.88 t/sから111〜126 t/s、decodeを4〜7 t/sから14〜20 t/sへ高速化した。各層のエキスパート256個を128個に削り、先頭3層は残して55.0 GiBとした。この構成はDeepSeek-V4-Flash-0731-Pruned-155B-A13BとしてHugging Faceで公開されている。