FT-Transformer: A Robust and Reliable Transformer with End-to-End Fault Tolerant Attention
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出FT-Transformer模型,旨在解决高负载计算中的可靠性问题,特别是软错误对性能的影响。通过集成端到端容错注意力框架和混合容错方案,显著提升推理可靠性,实现最高7.56倍的速度提升。
🏷️