Databricks平台探索利用大型语言模型（LLM）优化数据库查询中的连接顺序。传统查询优化器在估算子查询规模时面临挑战，导致连接顺序选择不佳。通过开发原型代理，测试不同连接顺序，结果显示该代理显著提高了查询性能，尤其在复杂查询中表现突出。这项研究展示了LLM在数据库优化中的潜力。

Hugging Face 发布了开源 AI 代理 ml-intern，旨在自动化大型语言模型的训练后工作流程。该工具能够自主进行文献综述、数据集发现和训练评估，显著提升模型性能。在不到10小时内，ml-intern 将 Qwen3-1.7B 模型的得分从 8.5% 提升至 32%，超越了现有技术。它还采用合成数据生成和 GRPO 等高级训练策略，展现出极高的数据效率。

大型语言模型（LLMs）在理解人类语言上下文方面表现优异。本文提出了一种上下文理解基准，包含四个任务和九个数据集，以评估模型的上下文理解能力。实验结果显示，预训练的密集模型在理解细微上下文特征上不及最新的微调模型，且量化模型在上下文学习中的表现也有所下降。

Context Hub旨在解决大型语言模型在编写代码时对API记忆不准确的问题。它提供版本化文档和技能，支持搜索和获取。用户将学习如何使用Context Hub的CLI，创建本地注释和反馈机制，以提升代码检索效率，最终建立有效的工作流程，改善编码代理的性能。

负载均衡在大型语言模型（LLM）中与传统服务不同，主要由于提示缓存的存在。提示缓存能显著降低输入成本和延迟，但需要优化请求路由。文章探讨了缓存感知路由策略，强调精确前缀缓存路由的优势，以提高吞吐量。使用外部源如Redis可以实现高可用性和独立扩展。未来方向是实现跨副本共享缓存，以提升效率。

LinkedIn通过将五个独立的内容检索系统整合为一个基于大型语言模型（LLM）的系统，提升了信息推荐的效率和准确性。新系统利用LLM生成的嵌入向量，更好地理解用户兴趣和内容相关性，显著提高了模型的性能和响应速度，使用户能在短时间内获得更相关的内容推荐。

人工智能（AI）是识别模式、学习数据并生成有用输出的软件。大型语言模型（LLM）专注于语言，通过大量文本学习生成和转换文本。AI模型分为预训练和后训练阶段，后者强调安全性和可靠性。用户可根据需求选择合适的模型。

本文介绍了如何使用RAGAs和G-Eval框架评估大型语言模型应用。RAGAs是一个开源评估框架，旨在量化检索增强生成系统的质量，重点关注上下文准确性和答案相关性。文章提供了构建评估数据集、集成测试管道及使用DeepEval评估生成内容连贯性的实践指南。通过结合结构化指标和定性评估，可以建立更全面的AI系统评估流程。

本文介绍了一种在Oracle ARM硬件上运行的大型语言模型（MoE），该模型拥有260亿参数，但每次生成仅激活40亿参数。性能估计显示，输入处理速度为150-400个令牌每秒，输出生成速度为3-8个令牌每秒，主要受内存带宽限制。建议通过优化线程设置和使用Flash Attention来提高效率。

大型语言模型（LLMs）在信息不足时常出现错误回答。检索增强生成（RAG）通过连接外部数据来改善这一问题。RAG即服务（RAGaaS）为企业提供外部管理平台，使其无需深入了解向量数据库即可构建AI应用，简化数据接入、索引和检索过程，适用于客户支持聊天机器人和内部知识库等场景。选择自建RAG系统或使用RAGaaS取决于团队的专业知识和定制需求。

本文探讨了上下文工程在大型语言模型中的重要性。研究表明，过多的输入信息会降低模型性能，尤其是当相关信息位于输入中间时。上下文窗口的设计及信息选择与压缩策略至关重要，有效的上下文工程能够提升模型响应质量，避免信息丢失和注意力稀释。