广和通战略投资端侧AI企业烨知心科技。烨知心科技专注NPU架构与软硬件协同,创始团队来自苹果神经引擎团队,已获蚂蚁集团、深创投等支持。此次投资将强化广和通与上游算力伙伴协同,完善端侧AI生态布局。
本文介绍Ascend 310P3 NPU的vNPU虚拟化使用方法。原生Docker需手动用npu-smi创建vNPU并挂载设备;Ascend Docker Runtime支持静态挂载(复用已创建vNPU)和动态虚拟化(启动时自动创建释放)。通过环境变量指定设备与模板,容器内可见310Pvir01实例,动态实例随容器退出自动回收。
本文介绍昇腾Ascend 310P3 NPU的vNPU虚拟化使用方法。vNPU可将物理NPU划分为多个隔离实例,类比NVIDIA MIG。文章演示两种Docker运行方式:原生Docker需手动用npu-smi创建vNPU并挂载设备;Ascend Docker Runtime支持静态挂载(复用已创建vNPU)和动态虚拟化(启动时自动创建并释放实例)。通过环境变量指定设备与模板,容器内可正常使用npu-smi查看资源。
Databiomes的CtrlVox利用AMD锐龙AI处理器内置NPU,在玩家本机实时拦截恶意语音聊天,无需云端、无延迟、零帧率影响。审核约700毫秒完成,占用120MB,仅需蓝图集成。已在2026年芝加哥Unreal Fest现场演示,运行于《Vicious Mockery》中,效果显著。
微软正在为Windows 11开发新内存管理功能,允许用户按需分配内存给GPU或NPU,适用于CPU/GPU/NPU共享内存的统一内存架构设备,如AI PC。该功能目前处于早期开发阶段,测试版已出现相关字符串,旨在优化游戏和本地AI任务的内存使用,未来对AI PC用户尤为重要。
本文介绍了在华为昇腾910B NPU服务器上配置AI训练环境的完整流程,涵盖磁盘RAID0组建与挂载、NPU驱动安装、TLS关闭、网络健康检查、ascend-docker-runtime及Containerd部署、K8s集群加入与设备插件安装,以及CPU锁频、THP调优、网卡队列和时钟源等性能优化措施。
本文介绍了如何结合Amazon SageMaker AI与Qualcomm AI Hub,实现从云端训练到端侧NPU的端到端工作流。通过微调模型并在真实设备上进行编译与验证,整个过程可在约20分钟内完成,显著缩短了AI项目的上线时间。以手机人像分割为例,最终在Galaxy S24上实现了13.59毫秒的推理延迟,展示了该方案的高效性与实用性。
英特尔发布了酷睿 Ultra 200HX Plus 处理器及「AI 高静 Plus」游戏本认证标准,强调噪音控制、温度和续航。新处理器在缓存优化和架构调整上有显著进步,并引入二进制优化技术(IBOT)以提升游戏性能。同时,英特尔与腾讯合作,将后台任务分配给NPU,释放CPU资源。新品将于本月上市,显示英特尔通过软件优化维持市场优势。
在Ascend 310P故障排查中,发现由于虚拟环境缺少systemd,导致无法获取卡信息。定制镜像并安装systemd后,成功识别npu资源。
英特尔发布了 OpenVINO 2026.0,增强了对大型语言模型的支持,改进了酷睿 Ultra NPU 的兼容性,新增多种模型执行支持,并提升转录和字幕功能的准确性。同时,该版本优化了内存需求和性能,支持提前编译,以加速集成和价值实现。
本文介绍了在华为开发者空间中使用昇腾NPU部署SDXL文生图模型的案例。SDXL是一种先进的文本生成图像模型,适合个人开发者和高校学生,预计操作时间为30分钟。用户可通过Notebook环境进行代码开发,生成不同主题的图像,如三体太空电梯和古风美女。
openSUSE创新者计划发布了支持英特尔NPU的RPM软件包,使得在无GPU的情况下也能高效运行大语言模型和生成式人工智能应用。NPU集成于酷睿Ultra处理器,优化神经网络运算,推动开源技术发展,缩小数字鸿沟。
GPU、TPU和NPU是AI计算的三大核心处理器,分别适用于大规模并行计算、云端AI优化和低功耗设备。未来硬件分工将更加细化,异构计算将成为常态,以提高算力效率。
谷歌推出LiteRT的新加速器QNN,显著提升高通Snapdragon 8 SoC设备的AI性能。QNN在CPU上速度提升可达100倍,GPU提升10倍,支持90种LiteRT操作,优化LLM性能。在72个ML模型中,有64个成功实现NPU全委托,极大改善用户体验。
高通于11月26日发布第五代骁龙8移动平台,搭载Qualcomm Oryon CPU,主频达3.8GHz,性能提升36%,功耗降低42%。新GPU架构支持高达165fps的游戏体验,NPU运算性能提升46%,影像系统支持多项先进技术,连接能力增强,提供更稳定的无线体验。
抱歉,提供的文本内容不足以进行总结。请提供更多信息或完整的文章内容。
Coral NPU是一个开源平台,旨在帮助硬件工程师和AI开发者在可穿戴和边缘设备中集成AI。它基于RISC-V架构,优化能效,支持多种机器学习框架,确保用户数据安全,并提供高效的设备推理,现已在GitHub上发布。
Windows 11 照片应用开始使用本地 AI 功能,自动识别和分类照片,如屏幕截图和收据。此功能仅在支持 NPU 的 PC 上可用,用户可手动调整分类。微软正在测试新版本,预计将很快推送更新。
联发科天玑9500首创双NPU架构,提升AI性能与能效,实现“AI Always on”体验,支持更快生成速度和更长续航,AI功能常驻后台,随时响应用户需求。
文章介绍了处理故障的步骤,包括挂载设备、创建Pod和驱动升级。首先,通过命令行挂载设备并运行容器;然后,使用kubectl创建名为test-ascend-pod的Pod;最后,进行驱动升级,下载并执行相关固件和驱动程序。
完成下面两步后,将自动完成登录并继续当前操作。