京东零售基于国产芯片的AI引擎技术
💡
原文中文，约7600字，阅读约需18分钟。
📝
内容提要
随着大模型的普及，AI算力成为竞争的关键。京东在美国芯片禁令下需确保算力安全，面临国产芯片在硬件架构、软件生态和业务需求等方面的挑战。九数算法中台推出基于国产芯片的AI引擎技术，提高算力利用率，推动京东在多个业务场景中应用国产芯片。
🎯
关键要点
- AI算力已成为竞争焦点，影响大模型性能与效果。
- 京东面临美国芯片禁令，需确保算力安全。
- 国产芯片在硬件架构、软件生态和业务需求方面存在挑战。
- 九数算法中台推出基于国产芯片的AI引擎技术，提高算力利用率。
- 京东的算力基础对业务场景至关重要。
- 硬件架构差异显著，需提升集群对多种异构芯片的兼容性。
- 软件生态尚未成熟，开发人员面临高迁移成本。
- 业务场景需求复杂，需灵活适配多种应用。
- 九数算法中台搭建了基于国产芯片的端到端训练推理解决方案。
- 高性能训练引擎支持多种主流底座模型的适配与优化。
- 高性能推理引擎支持一键部署与推理加速。
- 国产芯片应用性提升，已在多个业务场景落地。
- 京东零售与华为昇腾共建Openmind开源社区。
- 未来将实现万卡级别高性能网络及调度能力。
- 持续优化国产芯片调度策略，保障高效使用。
❓
延伸问答
京东如何应对美国芯片禁令带来的挑战？
京东通过推出基于国产芯片的AI引擎技术，确保算力安全，并提升算力利用率，以应对美国芯片禁令带来的挑战。
国产芯片在京东的应用面临哪些主要挑战？
主要挑战包括硬件架构差异、软件生态不成熟以及业务场景需求复杂。
九数算法中台的AI引擎技术有什么特点？
九数算法中台的AI引擎技术具有高效、统一、灵活的特点，支持多种主流底座模型的适配与优化。
京东如何提升国产芯片的算力利用率？
通过搭建千卡规模集群和优化调度策略，京东提升了国产芯片的算力利用率。
京东的AI引擎技术在业务场景中有哪些应用？
该技术已应用于搜索推荐、广告创意生成、智能客服和数据自动分析等多个场景。
京东与华为的合作有什么具体成果？
京东与华为共同建立了Openmind开源社区，并发布了基于昇腾大模型推理解决方案的优秀实践。
➡️
