蛋白预测快2.9倍，科学AI最难的是让整条流水线不空转
内容提要
NVIDIA推出BioNeMo推理运行时，通过内核选择、CUDA Graph和Ray流水线优化蛋白结构预测。在8张H100上，Boltz-2吞吐达每GPU小时5.85万残基，较公开实现提升2.9倍。文章强调科学AI吞吐应以成功结构数和完整流程时间衡量，需关注CPU预处理、写盘和失败率等瓶颈。
延伸解读
2.9倍与1.78倍：两个数字别混用
文章给出两个加速比：单副本前向约1.78倍（H100），整批任务吞吐2.90倍。差异来自后者还包含多副本并行、CPU阶段重叠和成功率差异。读者引用时应说明测的是哪一层，否则容易把工作集吞吐当成模型本身变快。
完成率也是性能指标
公开实现有29个目标显存不足，而BioIR的对比未把这些失败从分母中剔除。文章提醒，复现实验不能只抽短样本，也不能悄悄删掉失败目标。长序列的显存和运行时间并非线性增长，完成率必须与吞吐一起公开。
能耗估算不等于电表读数
官方估算一百万个相似目标为11MWh，对照实现35MWh，但这是按热设计功耗线性外推的折叠阶段估算，排除了多序列比对生成、存储、数据传输、重试和制冷开销。文章建议能耗结论只使用实测整机功率与完整流程时间。
加副本前先找空转在哪
BioIR用Ray在每张卡放完整模型副本，但四个副本意味着四份完整模型显存，并非把一次前向切到四张卡。若特征生成慢，GPU会等输入；若写盘跟不上，结果会在尾部排队。文章建议先分别记录前向、特征生成、排队、写盘和端到端时间，再决定是否扩并发。
Q&A
NVIDIA BioNeMo推理运行时在蛋白结构预测上实现了多少倍的加速？测试条件是什么？
在8张H100 80GB GPU上，使用1000个人类二聚体目标、相同多序列比对和推理配方，BioIR加速的Boltz-2每GPU小时完成5.85万条残基，而公开的torch.compile实现为2.02万条，提升2.90倍。公开实现另有29个目标显存不足。
BioIR通过哪三层优化来解决蛋白预测流水线的瓶颈？
第一层是内核选择，按GPU、数据类型和张量形状选择定制内核或PyTorch回退；第二层是模块优化，用CUDA Graph捕获形状兼容的计算，减少反复启动内核的CPU开销；第三层是流水线扩展，用Ray让解析、特征生成、折叠和写盘并行推进，并在多卡上复制完整模型。
为什么科学AI的吞吐不能只看单次GPU前向速度？
因为科学AI真正的吞吐要用成功完成的结构数量和完整资源时间衡量。单次前向只测GPU同步的模型前向，而整批任务还包含多副本并行、CPU阶段重叠以及成功率差异。例如BioIR单次前向加速约1.78倍，但工作集吞吐达到2.90倍，说明调度、重叠和失败处理贡献很大。
BioIR的能耗估算11MWh是否可靠？它排除了哪些开销？
该估算按热设计功耗线性外推，仅针对折叠阶段，不是机房电表读数。它排除了多序列比对生成、存储、数据传输、重试和制冷开销。因此能耗结论应只使用实测整机功率与完整流程时间，不能把TDP外推当作实际能耗。
使用BioIR优化蛋白预测流水线时，有哪些适用边界和风险？
结果由NVIDIA在自家硬件和运行时上测试，只适用于指定模型、输入分布与配方。BioIR不负责运行HHsearch或HMMsearch，多序列比对仍需预先准备；示例的Ray配置只覆盖单节点。结构预测置信度不能当作药效、安全性或临床有效性的证明。长序列的显存占用和运行时间并非线性增长，复现实验不能只抽短样本，也不能把失败目标从分母里删掉。
对于要筛选十万个蛋白复合体的团队，如何正确评估和优化流水线性能？
应固定一份有长短分布的代表性清单，分别跑1、2、4个副本，记录完成结构/小时、GPU利用率、峰值显存、失败率和端到端时间。不要只拿短序列测模型前向。GPU等待时先检查CPU阶段和队列；写盘积压时别继续加模型副本。用“成功残基/GPU小时”和“完成结构/小时”同时看效率。
