本研究提出了一种级联语言模型优化训练方法，旨在降低服务成本和延迟，同时保持高吞吐量。Cascade平台通过最小化数据拷贝和合并数据与计算，显著降低延迟。MultiTASC调度程序自适应控制多设备转发决策，提升系统吞吐量。此外，研究探讨了Model Cascading技术和新型结构预测方法，有效提高计算效率和预测准确性。