量子位
·
异构计算+高性能低功耗NPU，高通正在推动终端侧生成式AI发展
💡
原文中文，约4700字，阅读约需12分钟。
📝
内容提要
高通公司在2024全球AI芯片峰会上宣布其领先的SoC解决方案提供了异构计算系统和高性能低功耗的NPU，满足生成式AI的不同需求和算力要求。他们展示了终端侧生成式AI在旗舰终端和用例中的应用，并介绍了NPU硬件架构和AI体验，包括支持大语言模型的NPU和多模态大模型的完整运行。高通强调终端侧生成式AI的重要性，并预告了下一代骁龙移动平台的发布。
🎯
关键要点
- 高通在2024全球AI芯片峰会上展示了其领先的SoC解决方案，强调异构计算系统和高性能低功耗NPU的重要性。
- 高通的NPU能够满足生成式AI的不同需求和算力要求，支持旗舰终端和多种用例。
- 高通Hexagon NPU的硬件架构包括张量、矢量和标量加速单元，能够高效处理不同数据类型。
- 终端侧生成式AI的优势在于隐私保护、个性化和低延迟，能够在用户设备上处理数据。
- 高通的异构计算系统结合了CPU、GPU和NPU，满足不同AI用例的算力和功耗需求。
- 高通展示了多种搭载骁龙平台的终端产品，具备实时翻译、图片编辑等生成式AI功能。
- 高通预告了搭载最新Oryon CPU的下一代骁龙移动平台将在10月发布。
➡️
