生成式 AI 时代下,这颗骁龙新生代旗舰芯片,有了新的任务

生成式 AI 时代下,这颗骁龙新生代旗舰芯片,有了新的任务

💡 原文中文,约4700字,阅读约需11分钟。
📝

内容提要

骁龙8系列是高通的新一代旗舰芯片,具备强大的AI算力和支持大模型部署的能力。它引入了微切片推理等前沿技术,支持AI照片扩展功能。骁龙8s继承了骁龙8旗舰平台的CPU架构和Hexagon NPU神经网络处理器,支持大语言模型。高通正在与中国手机厂商合作,加速AI在手机市场的渗透和落地。骁龙8s在AI、影像、游戏、连接等方面提供卓越体验,加速AI普及。高通还推出AI Stack和AI Hub,降低了AI开发门槛。未来,AI将深度融入生活的各个方面。

🔎

延伸解读

微切片推理:提升AI效率的关键技术

文章提到,骁龙8系列引入了微切片推理技术,在时间轴上对神经网络的不同层次进行切分,让多个切片在同一时刻并行计算,从而确保芯片处理器始终保持高效运转,极大提高了AI推理效率。这项技术是骁龙8系列在AI性能上实现突破的重要底层创新之一,也解释了为何其能支持复杂的端侧大模型部署。

INT4支持:降低大模型内存占用的实用特性

文章以OPPO为例,说明骁龙8系列对INT4新特性的支持,能让原本28GB内存的模型现在只需要不到4GB就能跑通,大大提升了内存带宽效率,实现高效端侧部署。OPPO Find X7 Ultra成功在本地运行了70亿参数的满血版大模型,且输出效果几乎不受影响。这显示INT4支持对于手机端运行大模型具有实际意义。

骁龙8s的定位:推动生成式AI普及

文章指出,第三代骁龙8s继承了与第三代骁龙8相同的CPU架构和Hexagon NPU,支持100亿级别的大语言模型,但定位为“新生代旗舰”,而非“顶级旗舰创新标杆”。其任务是让更多定位不同的机型配备尖端生成式AI能力,真正实现生成式AI应用的进一步普及,加速AI在手机市场的渗透和落地。

AI Stack与AI Hub:降低开发门槛的生态举措

文章提到,高通推出了AI Stack和AI Hub,集成了自然语言处理、语音识别、计算机视觉等多个领域的AI能力,并包含全面优化的生成式AI大语言模型库。开发者可以简单高效地在骁龙和高通平台上进行部署,借助统一的开发框架和工具链,通过NPU等专用硬件和异构计算架构实现高性能、低功耗的AI计算,从而节省大量时间和工作量。

❓

Q&A

骁龙8系列芯片有哪些主要特点?

骁龙8系列芯片具备强大的AI算力,支持大模型部署,采用微切片推理等前沿技术,提升AI推理效率。

高通如何推动AI在手机市场的应用?

高通通过与中国手机厂商合作,加速AI在手机市场的渗透,并推出AI Stack和AI Hub,降低开发门槛。

骁龙8s芯片的主要功能是什么?

骁龙8s支持100亿级别的大语言模型,具备强大的AI性能,适用于多种手机型号,推动生成式AI应用普及。

骁龙8系列芯片如何提升手机影像质量?

骁龙8系列通过AI引擎与ISP联手,提升手机成像质量,支持实时语义分割和高效的图像处理。

未来AI将如何融入我们的生活?

未来AI将深度融入生活,成为智能助手、影像工作站等多功能终端,提升用户体验。

高通的AI Stack和AI Hub有什么作用?

AI Stack和AI Hub为开发者提供统一的开发框架和工具链,降低AI开发的门槛,提升开发效率。

🏷️

标签

➡️

继续阅读