范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”
内容提要
范式智能与睿思智联联合推出免费开源的一站式生产级AI部署平台“模域”，整合算力管理、模型部署与运行优化，支持国产芯片统一调度，内置自动扩缩容、KV缓存等企业级能力，吞吐效率提升约285%，已适配DeepSeek、Qwen等主流模型，采用Apache 2.0协议开源。
延伸解读
开源协议与生态意义
模域采用Apache 2.0协议开源，允许企业自由使用、修改和分发，降低了技术获取门槛。这有助于吸引更多开发者参与，共同完善对不同芯片和模型的支持，减少硬件适配障碍，推动异构算力生态的开放与协作。
国产芯片统一调度的价值
平台支持华为昇腾、天数智芯、摩尔线程、海光DCU等国产算力资源的统一和混合调度，用户无需为不同芯片重写底层逻辑代码。这解决了芯片生态割裂问题，减少了重复适配工作，让企业能更灵活地利用现有算力资源。
与推理引擎的互补关系
模域与vLLM、SGLang等推理引擎配合：引擎提升单机计算效率，模域负责集群架构级纳管和优化，包括负载和缓存感知的请求路由、统一KV缓存池、基于服务质量的自动化扩缩容等。这种分工使生产环境下的系统兼具高性能和高可用性。
性能提升与生产环境适配
平台内置AutoTune智能排期和自适应负载均衡，系统极限吞吐效率较基准提升约285%，性能跃升至原来4倍。同时，已适配DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流模型，支持模型发布后快速部署并调优至生产环境，帮助企业加速新模型落地。
Q&A
模域ModelSphere是什么？由谁推出的？
模域ModelSphere是由范式智能技术集团有限公司联合北京睿思智联科技有限公司推出的一站式生产级AI部署平台，面向企业用户免费开源，已在GitHub开源。
模域平台主要能帮助企业解决哪些问题？
模域将算力管理、模型部署和运行优化整合在统一平台，帮助企业降低部署与运维门槛，解决资源利用率低、芯片生态割裂、部署门槛高、生产环境调优难等问题，让企业无需深度掌握驱动编译与硬件适配即可将大模型嵌入核心业务流程。
模域平台有哪些企业级功能来保障模型服务稳定运行？
模域内置自动弹性扩缩容、PD分离部署、三级KV缓存、高可用负载均衡及服务断流自动续写等企业级能力，并提供图形化操作面板和预置部署能力，减少环境配置代码编写，帮助快速搭建推理服务。
模域在性能优化方面有什么突出表现？
模域内置AutoTune智能模型排期策略和结合硬件加速能力的自适应负载均衡调度，优化模型处理请求的能力和首次响应速度，系统极限吞吐效率较基准大幅提升约285%，性能跃升至原来4倍。
模域支持哪些国产芯片？如何实现统一调度？
模域融合EngineX推理引擎，支持并针对多种算力芯片进行深度调优，可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光DCU等国产算力资源，用户无需为不同芯片重写底层逻辑代码。
模域已经适配了哪些主流大模型？
模域团队持续跟进开源社区迭代，已适配优化了DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流模型，支持在模型发布后快速部署并性能调优至生产环境。
模域与vLLM、SGLang等推理引擎是什么关系？
模域与vLLM、SGLang等推理引擎互相配合：推理引擎负责提升单台服务器的计算效率，模域则负责集群架构级纳管和优化，包括负载和缓存感知的请求路由、统一的KV缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务管理等，保证生产环境下系统的高性能和高可用。
模域采用什么开源协议？在哪里可以获取？
模域采用宽松的Apache 2.0协议全面开源，已在GitHub开源，地址为https://github.com/modelsphere/modelsphere。
