本研究提出了LLM-FE框架,结合进化搜索与大语言模型,克服传统特征工程的局限性。实验结果表明,LLM-FE在分类和回归任务中显著提升了表格预测模型的性能。
该文综述表格数据与语言模型结合的研究,涵盖PTab、TransTab、CT-BERT等预训练框架在表格语义解析与分类中的应用,TABBIE通过损坏单元格检测优化表格预测,Tabula探索表格合成并压缩训练时间,并指出大模型在表格预测中会继承社会偏见。
该文汇总多项研究:提出通用表格预测模型UniPredict,在少样本学习中表现优异;用回归模型预测NLP实验分数;构建GLUE-X基准评估模型OOD鲁棒性;发现去偏见方法收益有限;提出批次遗憾评估大语言模型;研究自回归预训练与线性回归泛化;提出情感保留降维框架;并指出大语言模型受任务概率影响,低概率场景下准确性明显下降。
完成下面两步后,将自动完成登录并继续当前操作。