FT-Transformer: A Robust and Reliable Transformer with End-to-End Fault Tolerant Attention

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出FT-Transformer模型,旨在解决高负载计算中的可靠性问题,特别是软错误对性能的影响。通过集成端到端容错注意力框架和混合容错方案,显著提升推理可靠性,实现最高7.56倍的速度提升。

🏷️

标签

➡️

继续阅读