小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
Instacart 如何利用大语言模型让人们买得更多

Instacart 利用大语言模型改进电商搜索的查询理解。旧系统依赖点击购买数据训练,存在标签噪声大、长尾查询覆盖不足、多模型维护成本高的问题。新方案结合历史购买候选、LLM 重排类目路径与嵌入相似度校验来提升类目识别;查询改写分为同义、放宽、替代三类,覆盖率从 50% 提升至 95% 以上;结构化标签采用离线大模型生成高质量样本,蒸馏微调 Llama-3 8B 用于实时推理,并缓存高频查询。经 LoRA 合并、H100 升级和缓存优化,延迟降至约 300 毫秒。A/B 测试显示长尾查询滚动深度下降 6%,投诉减半。

Instacart 如何利用大语言模型让人们买得更多

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-11-16T16:30:56Z
如何在Python中使用Unsloth微调Llama 3以实现自定义工具调用

本文介绍用Unsloth和QLoRA微调Llama 3 8B以实现自定义工具调用。仅靠提示工程难以稳定输出JSON,微调可从权重层面改变模型行为。教程涵盖在免费Colab T4上搭建环境、加载4位量化模型、配置LoRA适配器、构建含系统提示、用户查询和JSON输出的数据集,并用SFTTrainer训练。约10分钟完成,模型能对未见查询返回干净JSON,最后保存适配器。

如何在Python中使用Unsloth微调Llama 3以实现自定义工具调用

MachineLearningMastery.com MachineLearningMastery.com · 2026-10-09T11:00:00Z

本研究探讨了语言模型在上下文学习中提取少量示例信号的机制,提出了一种新优化方法,发现Llama-3-8B模型仅依赖三个注意力头,并通过自我校正机制提高学习准确性。

Understanding Contextual Learning of Addition through Activated Subspaces

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-05-08T00:00:00Z

本研究提出FlexiDepth,解决了层跳过方法未考虑计算需求变化的问题。它动态调整Transformer层数,在Llama-3-8B模型中成功跳过8层,保持基准性能并提升生成效率。

Adaptive Layer Skipping in Pre-trained Large Language Models

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-03-31T00:00:00Z

苹果开源了7B大模型,效果与Llama 3 8B相当,计算量仅为Llama 3 8B的1/6。小模型成为新趋势,大大降低了成本。

苹果开源7B大模型,训练过程数据集一口气全给了,网友:开放得不像苹果

量子位 量子位 · 2024-07-22T08:26:04Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码