端到端新突破：「蒸馏」一下性能提升100%！北理工计算机学院出品
内容提要
北京理工大学计算机学院团队在CVPR 2024提出了一种新的知识蒸馏框架——PlanKD，可提升自动驾驶系统性能一倍左右，无额外成本。实验结果显示，使用PlanKD后性能提升50-100%。该方法解决了自动驾驶中大模型参数量大、计算资源占用多的问题。
延伸解读
PlanKD 如何解决端到端自动驾驶的部署难题
端到端自动驾驶大模型参数量大、计算资源占用多，直接部署在车端会导致成本高、延迟大。PlanKD 通过知识蒸馏，将大模型的能力转移给小模型，在保持小模型体量的同时提升性能。实验显示，相同参数量的规划器使用 PlanKD 后，驾驶分数提升 50-100%，且不增加额外成本。这为资源有限的车端部署提供了可行方案。
知识蒸馏在自动驾驶中的特殊挑战
知识蒸馏虽在深度学习领域广泛应用，但应用于端到端自动驾驶面临两个独特问题：一是传感器数据包含大量与驾驶无关的信息，直接蒸馏会干扰小模型；二是规划轨迹中不同路径点重要性不同，关键点的偏差可能导致严重后果。PlanKD 通过信息瓶颈策略提取规划相关信息，并设计安全意识排名损失函数，确保关键路径点被合理关注。
实验验证与性能提升细节
研究团队在 CARLA 仿真平台上，使用 InterFuser 模型和 RTX 3090 GPU 进行实验，覆盖 8 个城镇、21 种天气条件。结果显示，使用 PlanKD 后，驾驶分数平均提高 60-100%，路线完成度提升约 20%，违章分数提升约 25%，碰撞率和违章率下降 10-60%。同时，小模型推理时间较大模型大幅减少，证明了方法在效率和安全性上的双重优势。
Q&A
PlanKD框架的主要功能是什么？
PlanKD框架主要用于提升自动驾驶系统的性能，能够在不增加成本的情况下实现50-100%的性能提升。
PlanKD如何解决自动驾驶中的大模型问题？
PlanKD通过知识蒸馏技术，将大模型的能力转移到小模型上，减少计算资源占用，同时保持性能。
实验中使用了什么平台来验证PlanKD的有效性？
实验使用了CARLA仿真平台，该平台提供了基于真实城镇的仿真环境和不同天气条件。
PlanKD在安全性方面有哪些设计考虑？
PlanKD设计了安全意识排名损失函数，以确保路径点的重要性被合理考虑，从而提高安全性。
使用PlanKD后，自动驾驶系统的具体性能提升如何？
使用PlanKD后，驾驶分数平均提高60-100%，路线完成度提升约20%，违章分数提升25%。
PlanKD的知识蒸馏方法与传统方法有什么不同？
PlanKD采用信息瓶颈策略，仅提取与规划相关的信息，避免无关信息干扰，确保蒸馏效果更佳。
