DeepSeek、推論フレームワークDeepInferをオープンソース化

🚀 社内推論フレームワーク「DeepInfer」を発表します。現在は完全オープンソースとして公開されています。 DeepSeek-V4.1-Flashを大規模に稼働させるため、高スループットと低レイテンシーを実現しています。本番環境で使用している基盤を公開し、コミュニティがコンピュートコストとエネルギー消費を抑え、AIをより手頃な価格で利用できるよう支援します。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

deepseek_ai (X)より

推移を表示するための継続的な観測データがまだ足りません。