文章讨论了工业缺陷检测的三个阶段:第一阶段为CNN分类与分割,主要解决缺陷识别,但在复杂环境中效果不佳;第二阶段为异常检测与小样本学习,强调理解正常状态以识别未知缺陷;第三阶段为多模态零样本质检智能体,旨在实现零漏检和低误检,通过大模型和工艺知识库提升检测能力。未来工业检测需向第三阶段演进。
哈工大与宾大联合推出的PointKAN基于Kolmogorov-Arnold网络(KANs)进行点云分析,性能优于传统多层感知机(MLPs)。PointKAN通过Efficient-KANs结构显著减少参数量,同时保持高精度,尤其在小样本学习中展现出强泛化能力。
本研究提出了一种新框架FSL-SNN,通过自特征提取和跨特征对比模块,提高了脉冲神经网络在小样本学习中的特征表示精度,并降低了能耗。实验结果表明,该框架在N-Omniglot数据集上的分类性能显著提升,且与人工神经网络在静态数据集上的表现相当。
本研究提出了一种掩膜图像一致性和差异学习(MICD)框架,旨在提升半监督医学图像分割的效果。该框架通过三个关键模块增强了上下文感知和模型鲁棒性,显著提高了小样本学习能力。实验结果表明,该方法在多个公共医学图像数据集上优于现有技术。
安照崇在哥本哈根大学攻读博士,研究多模态Few-shot 3D分割,结合文本、2D和3D信息,提高模型对新类别的适应性,降低标注成本。研究成果已被ICLR 2025接收,强调多模态信息在小样本学习中的重要性。
飞桨PP-UIE是一个支持中英文的信息抽取大模型,具备强大的零样本和小样本学习能力,能够高效处理长文本,适用于多种应用场景。
本文介绍了多种视觉语言模型(VLMs)的微调方法,包括CLIP-Adapter、通用熵优化(UEO)和OrthCR等。这些方法在小样本学习和未知类别识别中表现优异,提升了模型的泛化能力和鲁棒性,适应现实数据分布的挑战。
本文研究了迁移学习的有效性,强调预训练数据的选择比数量更重要。提出了一种基于目标数据集的重要性权重的领域自适应方法,并在多个分类数据集上取得了优异结果。同时,探讨了迁移学习在小样本学习中的应用,比较了不同预训练模型的特征提取性能,为未来研究提供了指导。
上海交通大学研究团队开发了一种小样本学习方法,用于提升蛋白质突变效果预测性能。该方法已成功应用于Phi29 DNA聚合酶的工程改造。周子宜博士将在9月25日的线上直播中分享该方法的应用。
上海交通大学研究团队开发了一种小样本学习方法,能够提升蛋白质突变效果预测性能。该方法通过元学习构建辅助任务并训练蛋白质语言模型,成功将其转移到目标任务上。研究成果将在线上直播中分享。
TableLLM 是一个拥有 130 亿参数的大型语言模型,专注于高效处理表格数据。通过远程监督和推理过程扩展策略,提升了模型对推理模式的理解。结合“思维链”提示时,模型在表格任务中表现优异。此外,FeatLLM 框架在小样本学习中生成高质量规则,优于其他方法。
本文介绍了新颖的上下文学习框架 FealtLLM,该框架利用大型语言模型生成优化输入数据集,以提升小样本学习的性能。实验结果显示,FealtLLM 在多个表格数据集上优于现有方法,并且仅需访问大型语言模型的 API。此外,研究探讨了大型语言模型在推荐系统、数据预处理和人类行为预测中的应用潜力,强调了其在特征提取和模型性能提升方面的优势。
研究表明,大型语言模型(LLMs)在表格数据的预测和异常检测中表现优异。通过创建综合数据集进行训练,FeatLLM框架优化了输入数据,提升了小样本学习性能。LLMs在金融数据异常检测中有效,但也存在社会偏见问题。综述指出LLMs在应用中面临数据依赖和计算资源需求等挑战,并探讨了克服这些障碍的策略。
本文探讨了如何通过调整预训练的CLIP模型来优化视觉与语言任务的学习效果。研究提出了线性适配器和自注意适配器等方法,强调了参数保留的重要性,以提高模型在新任务中的适应性。实验结果表明,这些方法在小样本学习和长尾识别任务中显著提升了性能。
本研究提出了基于对比学习的3D形状识别模型,如PointCLIP和PointCLIP V2,旨在提高零样本和小样本学习的分类准确性。通过结合CLIP模型与3D点云数据,这些方法在多个数据集上验证了其有效性,显著提升了3D视觉问答和场景理解的性能。
本文研究了多层感知机(MLP)在表格数据集上的优化,利用13种正则化技术显著提升性能。同时探讨了大型语言模型在小样本学习中的应用,提出了FealtLLM框架以生成高质量特征,提高预测准确性。此外,AutoGluon-Tabular框架通过组合模型实现高效训练,表现优于其他AutoML工具。研究表明,传统机器学习在某些任务上仍优于深度学习方法。
本文探讨了基础模型(如CLIP)在有限训练数据和分布转变下的小样本学习应用。提出了WiSE-FT和ViSFT等方法,通过微调和视觉联合学习提升模型的鲁棒性和准确性。研究表明,这些方法在多个基准数据集上表现优异,强调了改进零样本多模态模型鲁棒性的重要性。
哈工大推出FewJoint基准数据集,用于NLP小样本评测。hyper.ai提供其他中文大模型训练的NLP数据集。
哈工大推出了FewJoint基准数据集,供NLP小样本评测使用。hyper.ai还有其他中文大模型训练的NLP数据集可下载。
完成下面两步后,将自动完成登录并继续当前操作。