Qwen· @Alibaba_Qwen · X·· 6 日前AIスコア38
AIによる概要
@lightseekorg のTokenSpeedの素晴らしい成果、おめでとうございます!🚀 Qwen3.8-Flash-Nextが、Nvida GPU上でユーザーあたり685 output tokens/sに達したことを嬉しく思います。コミュニティがQwenの推論性能をさらに引き出してくれることを楽しみにしています!
記事
Congrats to @lightseekorg on the impressive TokenSpeed results! 🚀 Great to see Qwen3.8-Flash-Next reaching 685 output tokens/s per user on Nvida GPUs. Excited to see the community unlock more of Qwen’s inference potential!
685 output tokens/s per user on @Alibaba_Qwen Qwen3.8-Flash-Next. Running TokenSpeed on 4× NVIDIA GB300 with NVFP4. A look at the kernel and serving optimizations behind the results: 👉 https://lightseek.org/blog/tokenspeed-qwen3-8-flash-next.html ⭐ https://github.com/lightseekorg/tokenspeed引用元の投稿をXで見る
出典: Qwen · x.com