降低延迟:NVIDIA首个设备端小语言模型如何让数字人更逼真
原文英文,约1100词,阅读约需4分钟。发表于: 。At Gamescom this week, NVIDIA announced that NVIDIA ACE — a suite of technologies for bringing digital humans to life with generative AI — now includes the company’s first on-device small language...
Amazing Seasun Games在Gamescom上展示了《Mecha BREAK》,首款使用NVIDIA ACE技术的游戏。该技术包括NVIDIA Nemotron-4 4B,提供更快、更相关的响应。NVIDIA ACE还引入了名为Nemotron-4 4B Instruct的本地小语言模型(SLM),为游戏角色提供更好的角色扮演、检索增强生成和功能调用能力。该模型可作为NVIDIA NIM云和本地部署的微服务提供给游戏开发者,针对低内存使用进行了优化,提供更快的响应时间,并为开发者提供了一种利用超过1亿台GeForce RTX笔记本电脑和NVIDIA RTX工作站的方式。