文章讨论了在共享LLM基础设施上进行A/B测试的挑战，特别是用户级随机化的局限性。为了解决这一问题，采用了切换实验设计，通过随机化时间段而非用户，确保所有用户在同一时间段内接受相同的处理。文章详细介绍了构建切换时间序列、调整滞后效应、使用HAC标准误差和引导置信区间的方法，以准确评估AI路由对任务完成率的影响。最后强调在进行基础设施投资前，需评估直接效应和滞后效应的经济性。

Yobi的CTO Frank Portman讨论了传统语言模型（LLM）在预测人类行为方面的局限性。他们采用变换器和图神经网络构建行为基础模型，以实现高效的个性化决策，并保护消费者数据隐私。Yobi专注于广告技术和市场营销，致力于个性化推荐和风险管理。

Andrej Karpathy发布了名为autoresearch的开源Python工具，允许AI代理在GPU上自动进行实验。该工具通过编辑代码、训练模型和评估结果，发现了20个有效的改进，显著提升了模型性能。autoresearch的设计使AI能够在固定时间预算内进行科学实验，优化训练效率，展示了AI在细节调整方面的潜力。

llm-wiki是Andrej Karpathy提出的概念，旨在将个人笔记和博客整合为结构化知识库。通过LLM自动提取和管理信息，用户只需提供知识库结构。文章分享了将Notion和知乎内容导入Obsidian的过程，并探讨了知识库与个人认知模型的区别，强调了两者在结构化知识和个人特征建模上的重要性。

在LLM推理集群中，KV缓存的存储预算影响命中率和预填充吞吐量。合理配置KV缓存容量可避免资源浪费和过早驱逐可重用条目。KVCache命中率模拟器帮助用户优化缓存配置。分析显示，随着缓存容量增加，命中率和预填充速度的提升逐渐减小，建议采用分层缓存策略以提高性价比。

本文探讨了大型语言模型（LLM）在工程中的应用，强调了从Prompt Engineering到Loop Engineering的四个阶段。每个阶段通过增加token提升模型的可用性，解决了模型在执行任务时的局限性。尽管工程不断优化，模型能力未显著提升，真正的挑战在于如何定义和维持任务完成标准，最终仍需人类参与判断。

OpenAI与Broadcom推出了名为Jalapeño的定制AI芯片，专为大语言模型推理设计，旨在提升AI系统的性能和效率。

Anthropic推出了全新的企业协作工具Claude Tag，旨在提升团队协作能力。该工具能主动参与工作流程，处理任务并与团队共享上下文，用户可在Slack中直接@Claude进行任务分配和进度跟踪。Claude Tag具备持续记忆和主动介入的能力，理解组织知识，成为企业内部的统一入口。目前已开放Beta测试，未来将扩展至更多平台。

研究表明，基于 LLM 的代码修复 Agent 在纯视觉模式下修复准确率显著下降，而混合文本与视觉模式则提高了准确率并降低了 Token 成本。SeeRepo 提供了一种有效的仓库结构可视化管线，结合文本和视觉信息，优化了编码 Agent 的输入接口设计。

本文介绍了如何利用小型语言模型（LLM）为教育应用程序生成创意项目建议。作者开发了一款基于活动学习的应用，使用维基百科数据构建数据集，并通过过滤和生成训练对来训练模型。文章详细阐述了模型的微调过程、评估方法及其在应用中的集成，确保生成内容适合儿童且安全。最终目标是根据教师提供的材料和年龄范围，生成结构化的教育活动建议。

本文介绍了如何结合大型语言模型（LLM）嵌入和HDBSCAN算法构建文本聚类管道，以自动发现未标记文本数据中的主题。主要步骤包括生成文本嵌入、降低维度和应用聚类，最终成功识别出两个主题聚类，展示了该方法的有效性。

2026年，LLM安全工具生态发生剧烈变动。评估了六个主要开源工具（Garak、PyRIT、Promptfoo、LLM Guard、NeMo Guardrails、Microsoft Presidio），涵盖攻击类型、兼容性和成熟度等维度。Garak和Presidio被认为是最稳的组合，适合不同规模的团队。生态逐渐向商业整合发展，开源工具面临维护风险。

本文介绍了大型语言模型（LLM）的工作原理，重点在于transformer架构的核心机制，包括分词、嵌入、位置编码和注意力机制。LLM通过将文本转换为整数序列，利用嵌入矩阵赋予这些整数含义，并通过注意力机制在token之间交换信息。模型的训练依赖于预测下一个token，架构的不同主要体现在训练权重和配置选择上。

腾讯优图实验室与中山大学、清华大学合作的研究评估了大型语言模型（LLM）智能体在工具失败场景下的动态重规划能力。研究表明，隐式语义失败的恢复难度远高于显式故障，复杂的拓扑结构可能导致智能体陷入无效循环。此外，动态重规划能力的提升滞后于基本性能，强调了状态管理与异常检测结合的重要性。

Checkmarx推出了一款新型静态应用安全测试(SAST)引擎，结合了基于规则的扫描器、训练于安全数据的语言模型和发现分析引擎，以提高检测准确性。该引擎在测试中发现了327个传统模型漏掉的真实阳性，旨在简化用户体验，减少误报，提高代码安全性，帮助企业应对快速增长的代码量和安全挑战。

TokenJuice 是 OpenClaw.NET 的新功能，旨在优化 AI Agent 的工具输出，减少 Token 消耗。通过精细的规则匹配，TokenJuice 能在保持语义完整的同时压缩输出体积，提升响应速度，确保安全性和效率，适用于 .NET 开发者，解决上下文膨胀问题。