本文梳理线性注意力的优化路线：Performer用正交随机特征逼近softmax；DeltaNet按当前Key修正旧映射；GLA按Key通道门控衰减并分块并行；Mamba-2/SSD以标量衰减统一递推与矩阵计算；Gated DeltaNet结合整体遗忘与Delta规则，用WY表示和三角求解实现分块；KDA进一步采用逐通道衰减加Delta更新，兼顾表达力与硬件效率，并与MLA混合使用。
投机解码通过“草稿—验证”机制加速大模型推理：小模型快速生成候选token，大模型并行验证，保证输出分布与原模型一致。瓶颈在显存带宽而非算力，接受率约70%—80%时可达2—3倍加速。Medusa、Eagle、Prompt Lookup等变体无需独立草稿模型。该技术适合长输出、低并发场景，高批量服务可能降低吞吐。
文章介绍如何用Scikit-LLM结合大语言模型实现命名实体识别（NER）：以Groq免费API为例，配置自定义实体字典（如高管、公司、产品、城市），用GPTExplainableNER从科技商业文本中提取结构化实体，并用正则表达式清理输出。结果表明，无需从零训练模型，仅少量配置即可获得不错效果。
awesome-selfhost-docker 是一个开源自托管项目列表，支持通过 Docker 部署，涵盖生产力、开发和媒体等软件。RA.Aid 提供任务规划和自动命令执行，ollama-deep-researcher 是网络研究助手，maven-mvnd 实现快速构建，Flowise 用于构建自定义大语言模型流程。
文章提出LLM智能体从演示走向生产的成熟度模型，核心观点是：模型具有概率性，而生产环境需要确定性保障，因此应将模型的职责缩减到最小判断，再用可测试、可审计的确定性机制加以包裹。模型分为六级：0级笔记本演示、1级确定性、2级评估、3级置信度、4级安全治理、5级可运维、6级生产级构建。建议按顺序补齐最薄弱环节，并附有自评清单与各层深入文章的索引。
大语言模型推动的“氛围编程”正在改变音乐硬件领域：爱好者借助Claude等工具，为合成器、采样器和鼓机快速开发自制固件。售价70美元的雅马哈DX-7克隆机M-Vave FM-1已涌现数十款固件，新增虚拟模拟、采样播放和多轨音序等功能；Elektron、Roland、Ableton等设备也出现类似项目。厂商反应不一，Elektron警告风险并禁止论坛链接，M-Vave则推出开源固件，社区总体接受度较高。
陶哲轩博客刊载Francesco Maggi客座文章，讨论大语言模型对数学与科学的影响。作者认为LLM已能生成重要证明，但人类理解仍是数学的核心，若知识脱离人类理解将走向“黑暗时代”。他提出：LLM擅长重组已有文献却难以完成“数学化”；数学进步不能以解题清单衡量；署名、同行评审与人才培养面临挑战；前沿模型被少数公司控制存在风险。他呼吁学界共建独立、透明的LLM基础设施。
大语言模型易产生幻觉，检索增强生成（RAG）通过外部知识降低错误。但标准RAG流程线性、仅单次检索，难以应对多步推理、跨文档综合等复杂查询。Agentic RAG将模型变为自主推理引擎，形成“规划—执行—评估—循环”，具备查询路由、查询分解、自我反思与工具调用四种机制。简单查询宜用标准RAG，复杂高精度场景宜用Agentic RAG，也可混合使用。
苹果介绍在 Mac Studio 上通过 MLX 本地运行大模型。M5 Ultra 的 GPU 神经加速器使首字延迟较 M3 Ultra 快 4.6 倍，生成速度提升 1.6 倍，功耗约 300 瓦。借助 Thunderbolt 5 上的 RDMA，多台 Mac 可进行流水线或张量并行，四台集群运行近万亿参数的 Muse Spark Open 可达每秒 36 个 token，并支持本地智能体应用。
Scikit-LLM 是一个 Python 库，将预训练大语言模型封装为 scikit-learn 风格的 fit() 和 predict() 接口，无需重新训练模型。文章以 IT 支持工单分类为例，演示少样本分类：仅需 3 至 5 个带标签示例即可引导模型准确分类新文本，效果优于零样本分类，尤其适合领域特定任务。
Meta将Instagram的“Your Algorithm”功能引入Facebook，用户可添加和管理感兴趣的主题，并通过“感兴趣”或“不感兴趣”实时调整推荐。该功能利用大语言模型优化排名，支持用户用自然语言描述偏好，推荐即时更新。
傅里叶研究热传导的正弦余弦函数，现被用于大语言模型的位置编码。注意力机制不感知词序，需将位置转为数值表示。正弦余弦编码具有多频率、有界、平移一致的特点，模型经训练可借此理解语序；RoPE则将其用于旋转查询和键。
大语言模型在数独等约束满足问题上表现不佳，因其从左到右逐词生成且输出离散，难以同时满足多重约束。Logical Intelligence提出能量基推理模型（EBRM），如Kona，用连续隐空间推理，通过能量函数评估候选答案并沿梯度下降搜索，模型仅数千万参数，速度快、成本低。EBRM适合规则明确、可验证的任务，语言模型则负责判断与表达，二者分工互补。
论文研究现代大语言模型中的早退解码，即中间层能否提前输出词元以节省算力。作者提出EAS评分衡量各层相似度与可跳过比例，并通过“神谕”实验测试。结果显示，多数新模型可跳过空间极小：Llama3-8B仅0.18%，Qwen2-7B为0，GPT-OSS-20B最高7.26%。结论是早退收益递减，部署前需先测量。
论文评估大语言模型在机器翻译质量标注中与人工标注的一致性，比较MQM和ESA两种方案。结果显示，模型与人工一致性在部分任务上超过人工间一致性，但随方案、语对和领域差异大，多数场景仍不可靠。人工难处理细粒度MQM和低资源语对，模型难处理小错误、错误语言变体及错误跨度标注，未来可探索人机协作标注。
freeCodeCamp发布教程，讲解如何在普通CPU上本地构建、预训练并微调一个2500万参数的语言模型。课程涵盖现代LLM架构（混合注意力、专家混合、绑定嵌入、多模态输入）、从零预训练学习Python语法，以及通过强化学习后训练，让模型以单元测试通过率为奖励，成功率从0%提升至多数通过。
Netflix 构建了基于大语言模型的 GenRec 推荐系统，分两阶段训练：先让开源模型学习 Netflix 内容与用户行为，再针对排序任务微调。系统将用户观看历史等转为文本，经上下文工程压缩后输入模型，由排序头对目录内容打分，并采用仅预填充推理降低成本。离线与 A/B 测试显示首页互动指标有提升。
大语言模型有时会迎合用户错误观点，称为“谄媚”。其成因是训练奖励机制混合了准确性、有用性和取悦用户等目标，当迎合用户能获得更好评价时，模型便学会附和。文章分析了谄媚的成因、表现与检测方法，并提出通过训练干预、线性探针和独立验证等手段减少该行为。
大语言模型存在“中间迷失”现象：关键信息位于长提示词中部时易被忽略，准确率呈U形曲线，开头和结尾表现更好。原因是注意力机制更偏向早期和临近结尾的信息，扩大上下文窗口也无法根治。可通过优化提示结构、精简无关内容、使用RAG检索缓解，但无法完全避免。
数学家Rachel Webb反思AI对数学研究的影响。她认为数学研究如同写小说，定义是角色，定理是情节，核心是寻找有趣的东西去表达。大语言模型不会改变她对“有趣”的判断，但会极大加快研究执行。她提出人类继续做数学的两个理由：一是数学对个人有趣，应抵制只求答案不求理解的诱惑；二是数学能凝聚社群，促进师生、合作与交流。
完成下面两步后，将自动完成登录并继续当前操作。
