表格预训练研究综述：TabBIE通过损坏单元格检测学习表格数据，提供单元格、行、列嵌入；SAINT用注意力机制结合行列信息，在有限标签下媲美XGBoost等；TUTA以二维坐标树结构统一预训练，提升表格与单元格分类；CT-BERT引入对比学习实现跨表预训练；TransTab将样本转为嵌入向量，支持多表部分重叠列学习。