京东零售基于国产芯片的AI引擎技术
原文中文,约7600字,阅读约需18分钟。
📝
内容提要
随着大模型的普及,AI算力成为竞争的关键。京东在美国芯片禁令下需确保算力安全,面临国产芯片在硬件架构、软件生态和业务需求等方面的挑战。九数算法中台推出基于国产芯片的AI引擎技术,提高算力利用率,推动京东在多个业务场景中应用国产芯片。
🎯
关键要点
-
AI算力已成为竞争焦点,影响大模型性能与效果。
-
京东面临美国芯片禁令,需确保算力安全。
-
国产芯片在硬件架构、软件生态和业务需求方面存在挑战。
-
九数算法中台推出基于国产芯片的AI引擎技术,提高算力利用率。
-
京东的算力基础对业务场景至关重要。
-
硬件架构差异显著,需提升集群对多种异构芯片的兼容性。
-
软件生态尚未成熟,开发人员面临高迁移成本。
-
业务场景需求复杂,需灵活适配多种应用。
-
九数算法中台搭建了基于国产芯片的端到端训练推理解决方案。
-
高性能训练引擎支持多种主流底座模型的适配与优化。
-
高性能推理引擎支持一键部署与推理加速。
-
国产芯片应用性提升,已在多个业务场景落地。
-
京东零售与华为昇腾共建Openmind开源社区。
-
未来将实现万卡级别高性能网络及调度能力。
-
持续优化国产芯片调度策略,保障高效使用。
❓
延伸问答
京东如何应对美国芯片禁令带来的挑战?
京东通过推出基于国产芯片的AI引擎技术,确保算力安全,并提升算力利用率,以应对美国芯片禁令带来的挑战。
国产芯片在京东的应用面临哪些主要挑战?
主要挑战包括硬件架构差异、软件生态不成熟以及业务场景需求复杂。
九数算法中台的AI引擎技术有什么特点?
九数算法中台的AI引擎技术具有高效、统一、灵活的特点,支持多种主流底座模型的适配与优化。
京东如何提升国产芯片的算力利用率?
通过搭建千卡规模集群和优化调度策略,京东提升了国产芯片的算力利用率。
京东的AI引擎技术在业务场景中有哪些应用?
该技术已应用于搜索推荐、广告创意生成、智能客服和数据自动分析等多个场景。
京东与华为的合作有什么具体成果?
京东与华为共同建立了Openmind开源社区,并发布了基于昇腾大模型推理解决方案的优秀实践。
🏷️