DeepSeek开源内部推理框架！兼容英伟达与华为昇腾平台
10月20日，DeepSeek开源内部推理框架DeepInfer。
DeepSeek表示，希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。
据了解，DeepInfer推理框架集成了高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。
deepseek-recipe编解码组件同步开源的生产级Token编解码组件，与DeepSeek官方API处理逻辑完整对齐，确保社区获得与官方部署一致的API体验。
DeepSeek表示，DeepSeek新模型的推理代码及后续优化也将在DeepInfer持续更新。
（来源：DeepSeek官方微信）
（作者：21视频 编辑：陈泽锴,杨乔羽,魏雯静 视频编辑：陈泽锴）
评论