本研究提出了一种新方法Panacea,旨在应对有害细调攻击的安全风险。该方法通过自适应扰动来恢复模型的安全性,同时保持细调性能。实验结果表明,平均有害得分降低最高可达21.5%。
本研究首次探讨基础模型在人脸识别中的适用性,发现其在特定任务中表现不佳。经过细调的基础模型在数据有限时优于从头训练的模型,并在大规模数据集上表现出可比效果,且计算成本更低。同时,研究关注了人脸识别中的偏差问题。
本文研究了大型语言模型(LLMs)在细调和检索增强生成(RAG)中的应用,发现RAG在知识密集型任务中表现优于细调。使用检索增强后,模型在长上下文任务中的表现更佳,生成速度也更快。同时,研究指出LLMs在复杂问题回答中面临的挑战,强调提高准确性和可靠性的必要性。
本文探讨了视觉语言模型(VLMs)作为强化学习代理的奖励来源的可行性,提出了VLM-CaR框架,通过生成密集奖励函数提高训练效率。研究表明,基于VLMs的奖励模型在多种任务中表现优越,有效支持强化学习策略的训练。此外,提出了改进VLM推理性能的两阶段训练框架,强调了VLMs在视觉推理中的潜力和应用前景。
研究表明,大型语言模型(LLMs)在处理不熟悉概念时容易产生幻觉。通过分析模型输出行为,开发了一种新的方法来减轻这一问题。研究发现,训练数据的记忆和频率偏好是导致幻觉的主要因素。提出的知识感知微调方法显著提高了模型在自然语言处理任务中的表现。
Cloudflare宣布在Workers AI上推出了LoRA的开放测试版。LoRA是一种细调方法,可以将细调权重和预训练模型分开,从而减少可训练参数和GPU内存需求,提高效率和成本效益。Workers AI非常适合运行LoRA,可以将多个LoRA适配器插入一个基础模型。Cloudflare构建了一个多租户的LoRA服务系统,优化了GPU资源利用率,并提供低推理延迟。公司计划在未来支持更多模型和任务类型,并致力于提供一键细调服务。
本文探讨了自然语言推理中的归因方法,评估其合理性和忠实度。提出了多语言 NLI 数据集,回顾了模型解释方法,强调忠实度的重要性,并总结了现有方法的优缺点及未来研究方向。此外,介绍了提高语言模型解释质量的框架 xLLM,以及评估自然语言解释忠实度的挑战和方法。
SemEval-2024任务8关注多语言大模型生成文本的检测,包含二分类和多分类子任务。研究结合传统机器学习、NLP特征提取与LLM分类,发现Transformer模型(尤其是LoRA-RoBERTa)配合多数表决在多语言环境下识别效果最佳。MULTITuDE、M4、M4GT-Bench等基准推动了多语言、多领域检测,但跨领域与跨模型泛化仍是难点。
本文综述文本到图像个性化生成技术,涵盖基于编码器与扩散模型的方法,通过少量图像微调实现定制对象生成,支持控制位置、大小及多概念组合。研究提出适配器层、区域引导采样、交叉令牌抑制等策略,提升图像质量与保真度,并构建大规模数据集支持开放域多主体生成。
通过核苷酸序列语言模型和PubMed文章的文本语言模型,提出了细调核苷酸序列语言模型和文本语言模型的方法,以及结合两个模型的集成方法。该方法在药物抗性类别预测中表现出更好的性能。
本文对多种大语言模型进行了评估,包括Alpaca、Alpaca-LoRA和GPT-3.5,针对在线文本数据中的心理健康预测任务。实验结果显示,LLMs在零样本和少样本提示设计上有限但有希望的性能。指令微调可以显著提升LLMs在所有任务上的表现。最佳微调模型Mental-Alpaca在平衡精度上比GPT-3.5高出16.7%,与最先进的任务特定模型相媲美。提供了行动指南,介绍如何赋予LLMs更好的心理健康领域知识,并成为心理健康预测任务的专家。
完成下面两步后,将自动完成登录并继续当前操作。