DeepSeek宣布全面开源内部推理框架：期待全球AI更加公平、透明、可信赖

来源：澎湃新闻

DeepSeek宣布全面开源内部推理框架：期待全球AI更加公平、透明、可信赖

“为善与众行之，为巧与众能之。”

10月20日，国产大模型龙头DeepSeek宣布全面开源内部推理框架DeepInfer，据了解，DeepInfer集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。

据DeepSeek介绍，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层：推理框架。

“训练使模型学有所成，推理则让模型为人所用。”DeepSeek表示，希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。

据技术报告披露，目前，基于DeepInfer已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务，单一集群的服务吞吐是155万亿Tokens/天，整体收入是每卡每小时38美金（按谷价）。未来，DeepSeek新模型的推理代码及后续优化也将在此持续更新。

此外，DeepSeek还宣布全面开源生产级Token编解码组件deepseek-recipe ，与DeepSeek官方API处理逻辑完整对齐，确保社区获得与官方部署一致的API体验。

“借助全面开源的模型、算子库与推理框架，期待着在不远的未来，能够看到全球AI服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖，进而实现在全社会范围内加快技术迭代、减少能源浪费，让有限的资源以更高的效率在基础设施与用户终端之间流转，以每个人都能够负担的成本传递更加强大的智能，以及伴随着智能的善意和无限可能性。”DeepSeek表示，将与各位一同携手，为实现这样的未来图景而不懈努力。

此前10月17日，DeepSeek再次发布版本更新引发外界广泛关注：DeepSeekV4.1 Flash现已更新至V4.1-Flash-1017版本，官方网页端、APP与API模型已同步变更为新模型。据官方介绍，相比上一版本的DeepSeekV4.1 Flash，新模型在各方面的基准测试中取得长足的提升。

在能力方面，DeepSeekV4.1 Flash 1017通过基于自反馈的强化学习（RL）训练技术，提升在游戏开发、3D建模等方面从零开始构建完整项目的能力，能够支持实现更多“许愿式”编程任务及项目开发请求，“许愿式”编程是指用户可以用自然语言描述开发需求，AI自主完成开发，减少人工干预。

10月20日，外交部发言人毛宁主持例行记者会，法新社记者提问，美国政府已指示其各机构停止使用中国公司DeepSeek的人工智能工具，美方称该工具可能构成多重威胁，包括敏感数据可能被传输至中国。请问外交部对此有何评论？

毛宁表示，中方一贯反对泛化国家安全概念、将科技经贸问题政治化，我们将坚决维护中国企业的合法权益。