BriefGPT - AI 论文速递
·
rLLM: 基于 LLMs 的关系表学习
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
提出了一种新颖的上下文学习框架FealtLLM，利用大型语言模型作为特征工程师，生成适合表格预测的优化输入数据集。在推断阶段使用生成的特征和简单的下游机器学习模型来推断分类的可能性，实现高性能的小样本学习。实验证明，FeatLLM优于TabLLM和STUNT等替代方法。
🎯
关键要点
-
提出了一种新颖的上下文学习框架 FealtLLM。
-
利用大型语言模型作为特征工程师，生成适合表格预测的优化输入数据集。
-
在推断阶段使用生成的特征和简单的下游机器学习模型来推断分类的可能性。
-
实现高性能的小样本学习。
-
FeatLLM 框架只使用简单的预测模型和推断时发现的特征。
-
相较于现有方法，FeatLLM 消除了每个样本都需要查询大型语言模型的需求。
-
克服了提示大小的限制，仅需访问大型语言模型的 API。
-
在多个来自不同领域的表格数据集上的实验证明，FeatLLM 生成高质量的规则。
-
FeatLLM 明显优于 TabLLM 和 STUNT 等替代方法，平均提升达到 10%。
➡️
