跳到正文
DeepSeek·AI 评分60

DeepSeek 开源 DeepInfer 推理框架,服务 DeepSeek-V4.1-Flash

🚀 Introducing DeepInfer, our in-house inference framework, now fully open source! Powering DeepSeek-V4.1-Flash at scale with high throughput and lo...

AI 导读

DeepSeek 开源其内部推理框架 DeepInfer,用于以高吞吐、低延迟大规模运行 DeepSeek-V4.1-Flash。项目代码已发布至 github.com/deepseek-ai/DeepIn…,DeepSeek 表示希望借此帮助社区降低计算成本和能源使用,让 AI 更加可负担。

来源:DeepSeek · x.com