NVIDIA把老师傅的判断变成了训练数据
内容提要
NVIDIA与Palantir合作，将供应链规划师的决策依据、理由与结果写入Ontology，并微调约300亿参数的Nemotron小模型辅助GPU分配。微调后准确率达86.7%，但Macro-F1仅57.5%，表明少数场景仍难处理。文章指出企业AI的关键在于高质量决策日志而非模型本身，并提醒注意数据偏见与反馈审核。
延伸解读
准确率86.7%背后的隐忧
文章披露微调后模型分配决策准确率达86.7%，但平衡准确率仅58.6%、Macro-F1仅57.5%，两者差距明显。这说明数据类别不均衡，模型在多数常见场景表现好，却在少数关键决策上容易出错。读者应警惕只看总体准确率，尤其供应链场景中少数错误可能带来高损失，需同时关注少数类召回和高损失错误。
小模型为何能胜过通用大模型
案例中约300亿参数的Nemotron经LoRA微调后，准确率远超未微调基座和更大的Nemotron 3 Ultra。关键不在模型规模，而在于训练数据包含了决策时的证据、理由与结果。这提示开发者：当任务输入明确、动作空间有限、评分规则稳定时，用领域决策日志微调小模型，可能比盲目升级通用大模型更有效。
决策日志：企业AI的新基础设施
文章强调企业AI真正稀缺的不是模型，而是高质量决策日志——记录决策当时看到了什么、为何修改、后来结果怎样。NVIDIA与Palantir将分配决定、理由、预期和真实产出写入Ontology，形成可追溯训练闭环。对数据与AI团队而言，工作重心应从接表训练转向设计决策对象、时间点快照、反馈字段和权限链。
自述案例的边界与风险
这是NVIDIA与Palantir的自述案例，数据规模、样本划分和线上收益披露有限，内部成绩未经独立审计，不能外推为供应链整体效率提升。历史决策可能包含旧偏见，把专家选择当标签并不等于总是正确；合成数据也可能放大人为假设。反馈必须经批次审核后再训练，避免模型在生产环境中根据每次点击自动改写自己。
Q&A
NVIDIA和Palantir的供应链案例具体做了什么？
NVIDIA需要每周决定把短缺的GPU、CPU、HBM等组件分配到哪些制造地点。cuOpt先把问题写成混合整数线性规划，在产能、物料到货、客户承诺等约束下最小化物料在厂停留的Time of Ownership。但历史回测显示人类规划师常胜过纯数学模型，因为他们还掌握供应商邮件、天气、地缘事件和电话纪要。于是NVIDIA与Palantir把分配决定、理由、预期和真实产出统一写入Ontology，再用这些记录后训练一个开放权重的Nemotron 3.5 Lightning模型，为规划师提供建议。
微调后的模型准确率如何？为什么说它仍有局限？
在团队自建的开发集上，微调后模型的分配决策准确率为86.7%，高于Nemotron 3 Ultra的55.5%和未微调基座的17.5%。但平衡准确率仅58.6%，Macro-F1仅57.5%，远低于普通准确率，说明类别不均衡且少数决策仍难处理。官方也明确说未来生产风险预测依然困难，这些内部成绩没有独立审计，不能外推成供应链整体效率提升。
这套系统如何避免把未来信息泄漏进测试？
评估采用时间点回放：只向模型展示那一天已经知道的信息，隐藏后来结果。这避免把未来信息泄漏进测试，也回答了更有业务意义的问题——如果模型当时已上线，它会不会作出正确建议。
企业AI最稀缺的数据是什么？
企业AI真正稀缺的数据，不只是“最后选了什么”，而是决策当时看到了什么、为何修改、后来结果怎样。文章指出未来两年企业AI的分水岭会是“有没有高质量决策日志”，而不是“买了哪个模型”。
这个案例对业务专家和AI开发者有什么影响？
对业务专家，工作重点会从重复重建背景，转向解释例外、校正建议和定义风险边界。对数据与AI团队，任务不再只是接表训练，而是设计决策对象、时间点快照、反馈字段和权限链。最稀缺的新角色，可能是懂业务又能把“为什么”变成结构化记录的人。开发者需注意，小模型是否够用要看任务边界，明确的输入、有限的动作空间和稳定的评分规则，往往比盲目升级通用大模型更重要。
实施这套方案有哪些风险需要注意？
这是NVIDIA与Palantir的自述案例，数据规模、样本划分和线上收益披露有限。历史决策也可能包含旧偏见；把专家选择当标签并不等于它总是正确。合成数据可能放大人为假设。反馈必须经过批次审核后再训练，不能让模型在生产环境里根据每次点击自动改写自己。
今天就能建立的决策日志应该记录哪些内容？
为一个高频决策记录时间、可见证据、可选动作、人工选择和理由。延迟补录真实结果，并标明结果受到哪些外部因素影响。回测时严格按时间切分，禁止使用决策日之后的信息。同时看Macro-F1、少数类召回和高损失错误，不只看总体准确率。先做只读建议和人工否决，再讨论自动执行。
