DeepSeek· @deepseek_ai · X·· 2 時間前AIスコア50
AIによる概要
🚀 社内推論フレームワーク「DeepInfer」を発表します。現在は完全オープンソースとして公開されています。 DeepSeek-V4.1-Flashを大規模に稼働させるため、高スループットと低レイテンシーを実現しています。本番環境で使用している基盤を公開し、コミュニティがコンピュートコストとエネルギー消費を抑え、AIをより手頃な価格で利用できるよう支援します。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4
記事
🚀 Introducing DeepInfer, our in-house inference framework, now fully open source!
Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable.
🔗 http://github.com/deepseek-ai/DeepInfer
1/4
出典: DeepSeek · x.com