本文介绍了一种基于Transformer的框架（FaultFormer），用于预测轴承故障。通过数据增强和傅里叶模态提取方法，训练了一个高准确度的Transformer编码器。同时，提出了两种预训练策略，为大型可推广Transformer的开发铺平了道路。

本文介绍了一种基于Transformer的框架（FaultFormer），用于预测轴承故障。通过数据增强和傅里叶模态提取方法，训练了一个高准确度的Transformer编码器。同时，提出了两种预训练策略，为大型可推广Transformer的开发铺平了道路。