Scikit-LLM 是一个 Python 库,将预训练大语言模型封装为 scikit-learn 风格的 fit() 和 predict() 接口,无需重新训练模型。文章以 IT 支持工单分类为例,演示少样本分类:仅需 3 至 5 个带标签示例即可引导模型准确分类新文本,效果优于零样本分类,尤其适合领域特定任务。
本文介绍了如何将Scikit-LLM库与Scikit-learn框架结合,进行零样本和少样本分类。零样本分类无需标记示例,仅依赖类别标签;少样本分类则提供少量标记示例以指导模型推理。文章还详细说明了配置和使用Scikit-LLM进行文本分类的步骤。
本研究提出了一种名为PHIER的方法,利用谓词层次结构解决机器人规划中物体及其关系的少样本状态分类问题。该方法结合对象中心的场景编码器和自监督损失,显著提升了分类性能,尤其在数据稀缺和仿真到现实的任务迁移中表现优异。
本研究提出了一种新的对比学习方法——多粒度关系对比学习(MGRCL),旨在提高少样本分类的特征质量。实验结果表明,该方法在多个基准测试中表现优异,显著提升了分类性能,并可与其他少样本学习方法结合使用。
本研究提出了一种图像描述增强的CLIP适配器(IDEA),旨在解决少样本图像分类中的信息互补不足问题。通过结合视觉特征与文本描述,IDEA在多个任务中超越了现有模型,并引入了可训练的IDEA(T-IDEA),在11个数据集上取得了领先成果。
本研究结合自监督学习与深度网络模型ResNet-101,优化了少样本图像分类任务,分类准确率和F1得分达到约95.12%,验证了自监督学习在少样本分类中的有效性。
本文提出了一种新方法,通过减少CLIP模型中的模态内重叠(IMO)来提升少样本分类性能。研究表明,减少IMO与模型性能呈正相关。训练轻量级适配器可有效提高分类准确性和鲁棒性。
本研究提出了AttentionXML模型,利用多标签注意机制和概率标签树,解决极端多标签文本分类问题,表现优于传统方法。此外,HAXMLNet、LAHA和CascadeXML等新模型在处理大规模标签集和少样本分类任务中也取得了显著进展。
Jina AI推出了新的分类器API,支持零样本和少样本在线分类,基于最新的嵌入模型。该API允许实时学习,用户可通过提交新示例来更新分类器,适用于多种内容类型。API可用于路由查询和检测网站可访问性等应用,具有灵活性和高效性。
本文比较了递归模型与基于梯度的元学习方法的表达能力,发现基于梯度的方法具有更强的推广性。研究了多种元学习算法在少样本分类和回归任务中的表现,并提出了新的正则化方法以增强模型的泛化能力,最后总结了元学习领域的现状及未来研究方向。
本文介绍了一种新的基于对比学习的3D视觉预训练方法CLIP2Point,旨在将CLIP知识转移到3D视觉中,以提升零样本和少样本分类性能。通过多种模型和实验验证,CLIP2Point在点云数据和3D场景理解任务中表现显著,尤其在无标注语义分割和视觉问答任务中效果优异。
本文探讨了通过引入随机局部胜者通吃激活的深层网络来解决元学习问题。该网络能够提取稀疏表示,提升少样本图像分类和回归的预测准确性,并降低计算成本。同时,研究了深度神经网络中的模型复杂性和连接推断,提出了新的算法和动态构建方法,以提高网络的效率和准确性。
本研究提出了多种多标签学习方法,如AMuLaP、SLDL和GLEMIML,旨在提升少样本文本和图像分类的性能。通过预训练模型和弱监督学习,实验结果表明这些方法在多个数据集上优于现有技术,特别是在零样本识别和分类准确性方面表现突出。
本研究提出了 MetricPrompt 方法,解决了少样本分类中的 verbalizer 设计问题,表现优于手动和其他自动方法。同时,研究探讨了多种少样本学习技术,如 LM-BFF 和 PERFECT 方法,在多种自然语言处理任务中均显示出显著改进。
该文汇总多项研究:利用向量语义差异提升少样本分类,通过知识蒸馏改善低资源语言嵌入,SFAVEL无需标注提高验证准确率,神经语义匹配优化检索与NLI,大模型自验证提升临床信息提取,MAPLE预测移动应用,CLASP利用合成数据改进低资源语义解析。
本文汇总多项AI研究:iBOT以在线分词器进行掩蔽图像建模,在分类及下游任务中领先;CapFSAR借助多模态基础模型实现少样本分类最优;贝叶斯符号回归提升可解释性与准确性;SNIP通过符号—数值联合对比预训练,少样本表现优于全监督基线;此外还涉及OFT文本到图像扩散、BiPFT二值预训练、符号表达式变换器、通用图像翻译框架、NeuroSIM符号程序推理及n-gram符号回归先验方法。
该文综述视觉语言模型(如CLIP)的提示学习方法,重点介绍无监督提示学习UPL:无需提示工程即可提升迁移性能,在ImageNet等11个数据集上优于原始CLIP,增强版可媲美8-shot CoOp与TIP-Adapter。文中还涉及基于大语言模型采样文本、CoOp、上下文提示学习、LLaMP、视觉提示与文本适配器集成、多样上下文学习、GPT-4生成描述及软提示学习等方法,均能在多数据集上提升零样本或少样本分类表现。
本文综述提示学习在多模态视觉任务中的应用,涵盖上下文提示学习提升图像特征对齐与任务适应、KAPT通过知识感知提示改进少样本分类与泛化、GeoNet揭示地理适应难题、无监督提示提升字幕生成通用性、RegionCLIP实现区域级视觉-文本对齐、C-SAW增强遥感域不变特征、PCL微调CLIP替代提示学习用于Re-ID,以及RePrompt以检索增强提示应对领域差异。
本文研究了双曲空间中的分层数据表示和双曲嵌入在高维度情况下的收敛性,以及其对少样本分类的影响。研究表明,最佳的少样本结果是通过在共同的双曲半径下得到的双曲嵌入得到的。
本文研究了双曲空间中的分层数据表示及其对少样本分类的影响。研究表明,最佳结果是通过在共同的双曲半径下得到的双曲嵌入得到的。通过配备欧几里德度量的固定半径编码器可以获得更好的性能。
完成下面两步后,将自动完成登录并继续当前操作。