本文介绍流水线并行中气泡的产生与优化。将模型按层切段、批次分微批后，段间等待形成气泡。四代调度各改一点：GPipe先全前向再全反向，显存高；1F1B改交替执行，减少在途激活；Interleaved 1F1B切细段降气泡，但增通信；Zero Bubble拆反向填气泡。气泡占比约(P−1)/m，显存峰值随段数变化。