本文总结了Airbnb、Netflix、Lyft和Uber如何将因果推断应用于LLM功能测量。核心要点：根据部署机制选择方法（如DiD、RDD、AIPW），运行诊断验证假设，将短期指标与长期价值关联，并让因果估计支持前瞻性决策。强调提前埋点、匹配方法与场景、避免混淆数据，以可靠评估AI功能真实影响。

本文介绍双重稳健估计（AIPW）在AI产品因果推断中的应用。针对用户自选加入导致的偏差，AIPW结合倾向得分和结果模型，只要其中一个正确即可获得一致估计。通过Python实现和模拟数据验证，AIPW能纠正选择偏差，恢复真实效应（+8%），并展示模型误设时的稳健性，同时讨论其局限和实际应用策略。

In this tutorial, I’ll show you how to fine-tune a large language model for use in AI agents using supervised fine-tuning with QLoRA. This lets us customize a pre-trained model so it behaves the way w

还记得第一次与...

Recently, five teams in the Rust project adopted a policy that I originally authored, governing how Large Language Models can be used when contributing to the rust-lang/rust monorepo. Notably, the...

In this article, you will learn how static, dynamic, and continuous batching work in LLM inference, and why the differences between them matter at production...

德国埃尔朗根-纽伦堡大学等机构的研究团队发表的论文《Scaling LLM-Driven Multi-Agent Systems: Design Principles and Architectural Scalability...

本文将系统介绍 Text-only LLM SFT 训练数据预处理的完整流程，涵盖从数据收集到最终打包的每一个环节，并结合真实客户案例给出实操建议。这里需要说明的是，本文聚焦于纯文本场景，且不涉及代码生成和 SQL 相关的场景。从 2025 年的行业趋势来看，代码和 SQL 相关场景基本上都是基于开源模型权重或闭源模型来构建实现的，需要针对代码和SQL相关场景做post training...

Reasoning models think before they answer, and those reasoning tokens are usually part of what you pay for. They're billed as output tokens, the expensive kind, and a single request can generate a...

分享了 12 篇文章，12 个开源项目

性能测试是保障系统稳定性的关键环节，然而分布式压测环境搭建复杂、客户端指标与服务端基础设施指标割裂、测试结果分析高度依赖专家经验，仍是许多团队面临的共性挑战。本文介绍 Load Testing Pilot——一个专为亚马逊云科技中国区域设计，通过单一 Amazon CloudFormation 模板实现一键部署的 Serverless 分布式压测与智能分析平台。平台支持多压测引擎与 LLM...

opencodex 是一个本地代理，把 Codex 的 Responses API 翻译成任意 LLM provider 的协议。你可以在 Codex CLI、Codex App、SDK 里用 Claude、Gemini、DeepSeek、Grok、GLM、Qwen 甚至本地 Ollama 模型——也能在 Claude Code...

When we benchmark an LLM serving setup, the number almost everyone reaches for first is throughput: how many requests per second the system can push through. It is easy to measure, easy to...

LLM 不是许愿机，而是一台概率机；高质量的上下文与持续的反馈，决定了它能否从「最可能」走向「真正可用」。