告别Retokenization Drift：通过OpenAI兼容API返回Token ID在代理强化学习中的重要性

vLLM Blog · 2025-10-22T00:00:00Z

本文介绍了vLLM的OpenAI兼容API新特性，允许返回精确的token ID，解决了训练与推理之间的Retokenization Drift问题。通过设置"return_token_ids": true，用户可以获取输入和生成响应的token ID，从而提高代理强化学习的稳定性。Agent Lightning框架与此特性结合，简化了数据收集和优化过程，提升了系统的灵活性和可扩展性。