京东零售基于国产芯片的AI引擎技术
内容提要
随着大模型的普及，AI算力成为竞争的关键。京东在美国芯片禁令下需确保算力安全，面临国产芯片在硬件架构、软件生态和业务需求等方面的挑战。九数算法中台推出基于国产芯片的AI引擎技术，提高算力利用率，推动京东在多个业务场景中应用国产芯片。
关键要点
-
AI算力已成为竞争焦点，影响大模型性能与效果。
-
京东面临美国芯片禁令，需确保算力安全。
-
国产芯片在硬件架构、软件生态和业务需求方面存在挑战。
-
九数算法中台推出基于国产芯片的AI引擎技术，提高算力利用率。
-
京东的算力基础对业务场景至关重要。
-
硬件架构差异显著，需提升集群对多种异构芯片的兼容性。
-
软件生态尚未成熟，开发人员面临高迁移成本。
-
业务场景需求复杂，需灵活适配多种应用。
-
九数算法中台搭建了基于国产芯片的端到端训练推理解决方案。
-
高性能训练引擎支持多种主流底座模型的适配与优化。
-
高性能推理引擎支持一键部署与推理加速。
-
国产芯片应用性提升，已在多个业务场景落地。
-
京东零售与华为昇腾共建Openmind开源社区。
-
未来将实现万卡级别高性能网络及调度能力。
-
持续优化国产芯片调度策略，保障高效使用。
延伸解读
国产芯片的挑战与机遇
京东在推动国产芯片应用时面临硬件架构和软件生态的双重挑战。虽然国产NPU与传统GPU存在显著差异，但这也为京东提供了优化算力调度和提升资源利用率的机会。通过九数算法中台的技术创新，京东能够在复杂的业务场景中实现更高效的算力支持，推动国产芯片的实际应用落地。
算力安全的重要性
在美国芯片禁令的背景下，京东必须确保算力安全，以维持其业务的稳定性和竞争力。依赖国产芯片不仅降低了对外部供应链的依赖，还增强了技术自主性。京东通过构建基于国产芯片的AI引擎技术，能够在不确定的国际环境中保持业务的灵活性和适应性。
多样化业务场景的适应性
京东的零售业务场景复杂多样，要求算力解决方案具备灵活适配能力。九数算法中台的AI引擎技术通过统一的训练推理框架，支持多种主流模型的兼容与优化，确保在不同业务需求下都能高效运行。这种灵活性不仅提升了业务效率，也为未来的技术迭代打下了基础。
延伸问答
京东如何应对美国芯片禁令带来的挑战？
京东通过推出基于国产芯片的AI引擎技术，确保算力安全，并提升算力利用率，以应对美国芯片禁令带来的挑战。
国产芯片在京东的应用面临哪些主要挑战？
主要挑战包括硬件架构差异、软件生态不成熟以及业务场景需求复杂。
九数算法中台的AI引擎技术有什么特点？
九数算法中台的AI引擎技术具有高效、统一、灵活的特点，支持多种主流底座模型的适配与优化。
京东如何提升国产芯片的算力利用率？
通过搭建千卡规模集群和优化调度策略，京东提升了国产芯片的算力利用率。
京东的AI引擎技术在业务场景中有哪些应用？
该技术已应用于搜索推荐、广告创意生成、智能客服和数据自动分析等多个场景。
京东与华为的合作有什么具体成果？
京东与华为共同建立了Openmind开源社区，并发布了基于昇腾大模型推理解决方案的优秀实践。
