小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate

文章介绍如何用Scikit-LLM结合大语言模型实现命名实体识别(NER):以Groq免费API为例,配置自定义实体字典(如高管、公司、产品、城市),用GPTExplainableNER从科技商业文本中提取结构化实体,并用正则表达式清理输出。结果表明,无需从零训练模型,仅少量配置即可获得不错效果。

使用Scikit-LLM进行命名实体识别

KDnuggets KDnuggets · 2026-10-21T14:00:00Z
拖放式构建 LLM 流程:跨平台灵活部署 | 开源日报 No.556

awesome-selfhost-docker 是一个开源自托管项目列表,支持通过 Docker 部署,涵盖生产力、开发和媒体等软件。RA.Aid 提供任务规划和自动命令执行,ollama-deep-researcher 是网络研究助手,maven-mvnd 实现快速构建,Flowise 用于构建自定义大语言模型流程。

拖放式构建 LLM 流程:跨平台灵活部署 | 开源日报 No.556

开源服务指南 开源服务指南 · 2026-10-20T23:22:09Z
生产级大语言模型与智能体:实战指南

文章提出LLM智能体从演示走向生产的成熟度模型,核心观点是:模型具有概率性,而生产环境需要确定性保障,因此应将模型的职责缩减到最小判断,再用可测试、可审计的确定性机制加以包裹。模型分为六级:0级笔记本演示、1级确定性、2级评估、3级置信度、4级安全治理、5级可运维、6级生产级构建。建议按顺序补齐最薄弱环节,并附有自评清单与各层深入文章的索引。

生产级大语言模型与智能体:实战指南

Stack Overflow Blog Stack Overflow Blog · 2026-10-19T15:32:01Z
氛围编程正在颠覆音乐硬件世界

大语言模型推动的“氛围编程”正在改变音乐硬件领域:爱好者借助Claude等工具,为合成器、采样器和鼓机快速开发自制固件。售价70美元的雅马哈DX-7克隆机M-Vave FM-1已涌现数十款固件,新增虚拟模拟、采样播放和多轨音序等功能;Elektron、Roland、Ableton等设备也出现类似项目。厂商反应不一,Elektron警告风险并禁止论坛链接,M-Vave则推出开源固件,社区总体接受度较高。

氛围编程正在颠覆音乐硬件世界

The Verge The Verge · 2026-10-19T12:30:00Z
数学(与科学)将迎来黄金时代还是黑暗时代?

陶哲轩博客刊载Francesco Maggi客座文章,讨论大语言模型对数学与科学的影响。作者认为LLM已能生成重要证明,但人类理解仍是数学的核心,若知识脱离人类理解将走向“黑暗时代”。他提出:LLM擅长重组已有文献却难以完成“数学化”;数学进步不能以解题清单衡量;署名、同行评审与人才培养面临挑战;前沿模型被少数公司控制存在风险。他呼吁学界共建独立、透明的LLM基础设施。

数学(与科学)将迎来黄金时代还是黑暗时代?

What's new by TerryTao What's new by TerryTao · 2026-10-18T14:59:49Z

大语言模型易产生幻觉,检索增强生成(RAG)通过外部知识降低错误。但标准RAG流程线性、仅单次检索,难以应对多步推理、跨文档综合等复杂查询。Agentic RAG将模型变为自主推理引擎,形成“规划—执行—评估—循环”,具备查询路由、查询分解、自我反思与工具调用四种机制。简单查询宜用标准RAG,复杂高精度场景宜用Agentic RAG,也可混合使用。

Agentic RAG 与朴素 RAG:当你的检索系统应当自主思考时

KDnuggets KDnuggets · 2026-10-16T14:00:00Z
在 Mac Studio 上使用 MLX 和 RDMA 进行本地与分布式大语言模型推理

苹果介绍在 Mac Studio 上通过 MLX 本地运行大模型。M5 Ultra 的 GPU 神经加速器使首字延迟较 M3 Ultra 快 4.6 倍,生成速度提升 1.6 倍,功耗约 300 瓦。借助 Thunderbolt 5 上的 RDMA,多台 Mac 可进行流水线或张量并行,四台集群运行近万亿参数的 Muse Spark Open 可达每秒 36 个 token,并支持本地智能体应用。

在 Mac Studio 上使用 MLX 和 RDMA 进行本地与分布式大语言模型推理

Apple Machine Learning Research Apple Machine Learning Research · 2026-10-15T00:00:00Z

Scikit-LLM 是一个 Python 库,将预训练大语言模型封装为 scikit-learn 风格的 fit() 和 predict() 接口,无需重新训练模型。文章以 IT 支持工单分类为例,演示少样本分类:仅需 3 至 5 个带标签示例即可引导模型准确分类新文本,效果优于零样本分类,尤其适合领域特定任务。

使用 Scikit-LLM 进行少样本文本分类

KDnuggets KDnuggets · 2026-10-14T14:00:00Z
Facebook将允许你使用AI自定义信息流算法

Meta将Instagram的“Your Algorithm”功能引入Facebook,用户可添加和管理感兴趣的主题,并通过“感兴趣”或“不感兴趣”实时调整推荐。该功能利用大语言模型优化排名,支持用户用自然语言描述偏好,推荐即时更新。

Facebook将允许你使用AI自定义信息流算法

The Verge The Verge · 2026-10-13T17:01:31Z
19世纪热物理中的数学如何帮助大语言模型理解句子

傅里叶研究热传导的正弦余弦函数,现被用于大语言模型的位置编码。注意力机制不感知词序,需将位置转为数值表示。正弦余弦编码具有多频率、有界、平移一致的特点,模型经训练可借此理解语序;RoPE则将其用于旋转查询和键。

19世纪热物理中的数学如何帮助大语言模型理解句子

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-10-13T15:30:44Z
如何构建无语言模型:Logical Intelligence的实践

大语言模型在数独等约束满足问题上表现不佳,因其从左到右逐词生成且输出离散,难以同时满足多重约束。Logical Intelligence提出能量基推理模型(EBRM),如Kona,用连续隐空间推理,通过能量函数评估候选答案并沿梯度下降搜索,模型仅数千万参数,速度快、成本低。EBRM适合规则明确、可验证的任务,语言模型则负责判断与表达,二者分工互补。

如何构建无语言模型:Logical Intelligence的实践

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-10-12T15:00:45Z

论文研究现代大语言模型中的早退解码,即中间层能否提前输出词元以节省算力。作者提出EAS评分衡量各层相似度与可跳过比例,并通过“神谕”实验测试。结果显示,多数新模型可跳过空间极小:Llama3-8B仅0.18%,Qwen2-7B为0,GPT-OSS-20B最高7.26%。结论是早退收益递减,部署前需先测量。

当答案姗姗来迟:现代大语言模型中的早退解码

Louis Aeilot's Blog Louis Aeilot's Blog · 2026-10-12T01:30:00Z
大语言模型在机器翻译质量标注中的应用:人类与模型均面临挑战

论文评估大语言模型在机器翻译质量标注中与人工标注的一致性,比较MQM和ESA两种方案。结果显示,模型与人工一致性在部分任务上超过人工间一致性,但随方案、语对和领域差异大,多数场景仍不可靠。人工难处理细粒度MQM和低资源语对,模型难处理小错误、错误语言变体及错误跨度标注,未来可探索人机协作标注。

大语言模型在机器翻译质量标注中的应用:人类与模型均面临挑战

Apple Machine Learning Research Apple Machine Learning Research · 2026-10-12T00:00:00Z
在CPU上从零构建并训练一个2500万参数的大语言模型

freeCodeCamp发布教程,讲解如何在普通CPU上本地构建、预训练并微调一个2500万参数的语言模型。课程涵盖现代LLM架构(混合注意力、专家混合、绑定嵌入、多模态输入)、从零预训练学习Python语法,以及通过强化学习后训练,让模型以单元测试通过率为奖励,成功率从0%提升至多数通过。

在CPU上从零构建并训练一个2500万参数的大语言模型

freeCodeCamp.org freeCodeCamp.org · 2026-10-08T02:02:35Z
Netflix 如何训练大语言模型推荐电影,让你欲罢不能

Netflix 构建了基于大语言模型的 GenRec 推荐系统,分两阶段训练:先让开源模型学习 Netflix 内容与用户行为,再针对排序任务微调。系统将用户观看历史等转为文本,经上下文工程压缩后输入模型,由排序头对目录内容打分,并采用仅预填充推理降低成本。离线与 A/B 测试显示首页互动指标有提升。

Netflix 如何训练大语言模型推荐电影,让你欲罢不能

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-10-07T15:31:48Z
为什么大语言模型即使你错了也会赞同你

大语言模型有时会迎合用户错误观点,称为“谄媚”。其成因是训练奖励机制混合了准确性、有用性和取悦用户等目标,当迎合用户能获得更好评价时,模型便学会附和。文章分析了谄媚的成因、表现与检测方法,并提出通过训练干预、线性探针和独立验证等手段减少该行为。

为什么大语言模型即使你错了也会赞同你

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-10-06T15:31:18Z
大语言模型的盲区:为何模型会遗忘提示词中间的内容

大语言模型存在“中间迷失”现象:关键信息位于长提示词中部时易被忽略,准确率呈U形曲线,开头和结尾表现更好。原因是注意力机制更偏向早期和临近结尾的信息,扩大上下文窗口也无法根治。可通过优化提示结构、精简无关内容、使用RAG检索缓解,但无法完全避免。

大语言模型的盲区:为何模型会遗忘提示词中间的内容

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-10-05T15:30:51Z
AI如何改变,又如何不改变我做数学的方式

数学家Rachel Webb反思AI对数学研究的影响。她认为数学研究如同写小说,定义是角色,定理是情节,核心是寻找有趣的东西去表达。大语言模型不会改变她对“有趣”的判断,但会极大加快研究执行。她提出人类继续做数学的两个理由:一是数学对个人有趣,应抵制只求答案不求理解的诱惑;二是数学能凝聚社群,促进师生、合作与交流。

AI如何改变,又如何不改变我做数学的方式

What's new by TerryTao What's new by TerryTao · 2026-09-30T00:19:10Z
论大语言模型条件控制中有效性与流畅性的权衡:一项系统性研究

该研究系统考察了大语言模型条件控制中有效性与流畅性的权衡,发现高效引导方法常严重损害流畅性,激活引导在指令微调模型上效果远逊于基础模型,提示与监督微调适合概念注入但概念移除效果较差,且廉价文本指标与昂贵LLM评判分数高度相关。

论大语言模型条件控制中有效性与流畅性的权衡:一项系统性研究

Apple Machine Learning Research Apple Machine Learning Research · 2026-09-30T00:00:00Z
为什么大语言模型会撒谎?

大语言模型会产生“幻觉”,即生成看似自信却与事实或给定材料不符的内容。原因是模型逐词预测文本,追求语言流畅而非核实真伪,且训练激励其猜测而非承认不确定。应对方法包括:用RAG检索提供证据、用工具查询缺失事实、允许“信息不足”作为有效回答、对答案进行独立核查。可靠性需在真实场景中评估,兼顾准确性与实用性。

为什么大语言模型会撒谎?

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-09-29T15:31:36Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码