降低延迟：NVIDIA首个设备端小语言模型如何让数字人更逼真
内容提要
Amazing Seasun Games在Gamescom上展示了《Mecha BREAK》，首款使用NVIDIA ACE技术的游戏。该技术包括NVIDIA Nemotron-4 4B，提供更快、更相关的响应。NVIDIA ACE还引入了名为Nemotron-4 4B Instruct的本地小语言模型（SLM），为游戏角色提供更好的角色扮演、检索增强生成和功能调用能力。该模型可作为NVIDIA NIM云和本地部署的微服务提供给游戏开发者，针对低内存使用进行了优化，提供更快的响应时间，并为开发者提供了一种利用超过1亿台GeForce RTX笔记本电脑和NVIDIA RTX工作站的方式。
延伸解读
小语言模型：为何更小反而更快更准
文章指出，大语言模型虽训练数据庞大，但多为通用目的，包含大量冗余信息。而小语言模型（SLM）专注于特定用例，即使数据较少，也能更快、更准确地响应。Nemotron-4 4B 通过从更大的 Nemotron-4 15B 蒸馏而来，并经过剪枝和量化，降低了内存占用和首 token 时间，同时保持高准确度。这种设计让游戏角色能更自然地与玩家对话。
ACE 的模块化设计：灵活组合 AI 模型
NVIDIA ACE 并非单一模型，而是一套模块化技术，包含语音识别、语言处理、语音合成和面部动画等关键 AI 模型。开发者可以根据需要选择不同的 NIM 微服务，例如使用 Riva ASR 进行语音转文本，再接入 LLM（如 Nemotron-4 4B、Gemma 或 Llama 3）生成回复，最后通过 Audio2Face 生成同步的面部表情。这种模块化支持云端或本地推理，为开发者提供了灵活性。
本地推理与硬件普及：降低延迟的关键
文章强调，Nemotron-4 4B 针对低内存使用进行了优化，使其能在超过 1 亿台 GeForce RTX 电脑和笔记本以及 NVIDIA RTX 工作站上本地运行。本地推理减少了云端往返的延迟，让数字人能够实时响应。ACE NIM 微服务既可在本地运行，也可在云端运行，开发者可根据体验、工作负载和成本等因素选择混合推理。
超越游戏：数字人的未来应用
文章提到，数字人技术不仅用于游戏 NPC，还将变革客户服务、医疗保健、零售、远程呈现和机器人等多个行业。例如，NVIDIA 在 SIGGRAPH 上预览了基于 ACE 的交互式数字人“James”，可用于客户服务场景。Gartner 预测，到 2025 年，80% 的对话式产品将嵌入生成式 AI，75% 的面向客户的应用将具备情感对话 AI。数字人将推动更自然、更具吸引力的交互。
Q&A
NVIDIA ACE技术的主要功能是什么？
NVIDIA ACE技术旨在通过生成式AI使数字人类更生动，提供更快、更相关的响应。
Nemotron-4 4B Instruct模型有什么优势？
Nemotron-4 4B Instruct模型优化了低内存使用，提供更快的响应时间，并能更准确地理解和执行玩家指令。
如何将NVIDIA的SLM应用于游戏开发？
游戏开发者可以通过NVIDIA NIM微服务将SLM集成到游戏中，实现更自然的NPC互动。
NVIDIA Riva技术的作用是什么？
NVIDIA Riva技术提供实时高精度的语音识别和转录，支持多种语言的对话AI管道。
数字人类在未来的应用场景有哪些？
数字人类将超越游戏中的NPC，应用于客户服务、医疗保健、零售等多个行业。
Nemotron-4 4B模型是如何训练的？
Nemotron-4 4B模型通过从更大的Nemotron-4 15B LLM中提炼而来，采用了学生-教师的训练方法。
