降低延迟：NVIDIA首个设备端小语言模型如何让数字人更逼真
原文英文，约1100词，阅读约需4分钟。
📝
内容提要
Amazing Seasun Games在Gamescom上展示了《Mecha BREAK》，首款使用NVIDIA ACE技术的游戏。该技术包括NVIDIA Nemotron-4 4B，提供更快、更相关的响应。NVIDIA ACE还引入了名为Nemotron-4 4B Instruct的本地小语言模型（SLM），为游戏角色提供更好的角色扮演、检索增强生成和功能调用能力。该模型可作为NVIDIA NIM云和本地部署的微服务提供给游戏开发者，针对低内存使用进行了优化，提供更快的响应时间，并为开发者提供了一种利用超过1亿台GeForce RTX笔记本电脑和NVIDIA RTX工作站的方式。
❓
Q&A
NVIDIA ACE技术的主要功能是什么？
NVIDIA ACE技术旨在通过生成式AI使数字人类更生动，提供更快、更相关的响应。
Nemotron-4 4B Instruct模型有什么优势？
Nemotron-4 4B Instruct模型优化了低内存使用，提供更快的响应时间，并能更准确地理解和执行玩家指令。
如何将NVIDIA的SLM应用于游戏开发？
游戏开发者可以通过NVIDIA NIM微服务将SLM集成到游戏中，实现更自然的NPC互动。
NVIDIA Riva技术的作用是什么？
NVIDIA Riva技术提供实时高精度的语音识别和转录，支持多种语言的对话AI管道。
数字人类在未来的应用场景有哪些？
数字人类将超越游戏中的NPC，应用于客户服务、医疗保健、零售等多个行业。
Nemotron-4 4B模型是如何训练的？
Nemotron-4 4B模型通过从更大的Nemotron-4 15B LLM中提炼而来，采用了学生-教师的训练方法。
🏷️
