110月20日，DeepSeek宣布将内部推理框架DeepInfer全面开源。
2该框架集成高性能算子与深度优化推理引擎，支持分布式推理、推测解码等能力，且兼容英伟达与华为昇腾平台。
3同时开源生产级Token编解码组件deepseek-recipe，确保社区获得与官方一致的API体验。
4此举进一步降低了国产AI推理部署门槛，强化了国产算力生态适配能力。
DeepSeek全面开源内部推理框架DeepInfer，兼容英伟达与华为昇腾平台
摘要
【财新网】
DeepSeek将内部推理框架DeepInfer全面开源
10月20日，DeepSeek宣布，在此前开源一系列大模型、TileLang编译工具及推理算子库的基础上，决定进一步将内部推理框架 DeepInfer全面开源。其中，DeepInfer推理框架集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台；deepseek-recipe编解码组件方面，同步开源的生产级Token编解码组件，与 DeepSeek官方API处理逻辑完整对齐，确保社区获得与官方部署一致的API体验。
本站所有资讯是用户利用其本地Agent获取并分享，均为公开信息，如需删除请联系我们。