本文提出一种无需真实环境即可生成API调用智能体训练数据的方法。仅凭API规格,利用LLM模拟数字世界,生成任务、交互轨迹及响应,并通过LLM过滤器确保质量。在AppWorld和OfficeBench基准测试中,微调模型性能显著提升,证明该方法可扩展且有效,无需可执行环境即可训练智能体。
大型语言模型(LLMs)在理解人类语言上下文方面表现优异。本文提出了一种上下文理解基准,包含四个任务和九个数据集,以评估模型的上下文理解能力。实验结果显示,预训练的密集模型在理解细微上下文特征上不及最新的微调模型,且量化模型在上下文学习中的表现也有所下降。
文章探讨了通过生成文本相关性标签提升应用商店搜索排名的方法。研究表明,经过微调的模型在生成相关标签方面优于大型预训练模型。生成的数百万个文本标签显著提高了行为和文本相关性的离线NDCG,并在全球A/B测试中验证了转化率提升0.24%,尤其在尾部查询中效果显著。
本研究探讨多模态大语言模型(MLLMs)的安全对齐问题,指出现有模型在多模态输入下存在缺口。实验表明,数据分布偏见是主要原因。提出通过微调模型和使用拒绝句替换响应的方法,显著提高安全性,而无需收集恶意数据。
本研究评估了电子商务中图像嵌入的基础模型,发现全面微调模型表现优异,而文本-图像和自监督嵌入在较少训练下也能达到相似效果。顶层微调被证实为降低计算成本的有效替代方案,为嵌入选择和微调策略提供了实用指导。
本研究提出两种策略以解决多语言图像描述评估中的数据稀缺问题,结果表明微调的多语言模型具有良好的泛化能力,并与人类评判结果高度相关。
本研究提出了一种新颖的2层次SimCSE微调模型,结合无监督与监督方法,针对情感分析和语义文本相似性任务进行实验,模型在语义文本相似性任务中表现优异,平均得分达到0.742。
本研究评估了12种机器学习模型在检测经济意识形态方面的能力。生成模型(如GPT-4o和Gemini 1.5 Flash)表现优异,但受限于可访问性和资源。微调模型是可靠的替代方案,尽管扩展性有限。研究结果对政治内容的自动化分析具有重要指导意义。
六三八的女性在解读模糊地址时面临挑战,类似于在OpenAI数据上微调模型时对token使用的理解至关重要。使用Tiktoken计算token数量可以优化效率和控制成本。微调模型不仅是技术挑战,还涉及与token使用直接相关的财务问题,因此提前规划和预算非常重要。
本文探讨了利用语言数据预测跨语种语言模型性能的方法,评估了多种大型语言模型在多语言机器翻译中的表现。研究发现,大型模型在某些任务中表现良好,但与小型微调模型仍存在差距。提出了多语言语言可接受性基准MELA,分析了语言间的转移困难,并讨论了大型语言模型在多语种环境中的应用及未来研究方向。
本研究分析大型语言模型在机器翻译中如何利用输入上下文。结果显示,源文本在少量示例中比目标文本贡献更大,微调模型改变了上下文贡献模式,早期示例对翻译影响更大。这些发现帮助理解翻译机制并揭示异常现象。
本研究探讨了在不同文本领域微调模型中,特征的出现、消失和持久化,揭示了特征在迁移学习中的动态变化。
本研究通过创建QACC数据集,分析大型语言模型在开放领域问答中因冲突信息导致的准确性问题,并提出微调模型的新方法。结果显示,适当微调能增强推理能力,提高问答效果。
研究评估了K-12 STEM教育中大语言模型的应用,特别是提示工程。分析2021至2024年30项研究,发现高级提示技术在教育任务中效果更好,小型和微调模型在特定情境下可超越大型模型。
本研究提出了一种新方法,通过“软提示”嵌入和激活补丁技术提高微调模型的鲁棒性。动态激活组合和基于拒绝采样的自我指导微调方法在控制模型行为和提高生成效率方面表现优越,尤其在数据量较少时。
本研究提出了一种高效的解决方案,通过微调后的单步模型在零样本测试中表现优于其他深度和法线估计模型。研究还展示了扩散模型在光流和单目深度估计中的有效性,并提出了基于扩散的图像修复统一条件框架。此外,还介绍了扩散模型在图像恢复与增强中的应用,并提出了条件扩散蒸馏和PrimeDepth等方法。
本文讨论了构建人工智能产品的方法,建议避免仅仅包装现有模型,而是创建独特且有价值的技术。解决方案是创建自己的工具链,结合微调过的模型、自定义编译器和训练的模型。作者强调在需要的地方使用人工智能,而不是完全依赖它。最后,作者推荐使用类似Builder的方法来构建人工智能产品。
硅积流动是一家提供云端服务的新公司,由袁进辉创立。公司目前有三个产品:硅LLM、硅积云和one diff。他们计划扩充开源模型并加入微调模型,以提供更快速和稳定的服务,并降低价格。
本文提出了一种低成本的文本到图像生成方法,通过微调预训练模型实现多概念生成。采用交叉注意力引导,分解多个概念,提升图像保真度和文本对齐度。实验结果表明,该方法在生成质量上优于现有模型,并有效去除不良概念,保持其他元素的完整性。
作者通过学习基础知识、阅读论文、微调模型和解决问题等方式进入深度学习领域。理解基础原理对于训练好的模型非常重要。开源工作对于获得机会和提高技能也很重要。作者将继续训练模型、改进数据堆栈并进行公开发布。
完成下面两步后,将自动完成登录并继续当前操作。