ReadyServer LLM API兼容OpenAI接口,不按Token计费

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

Ready Server 推出兼容 OpenAI 标准的私有 AI 推理接口 ReadyServer LLM API,所有 VPS 套餐用户可免费使用,无需 API 密钥,也不按 Token 计费。该服务基于 vLLM,提供 Qwen3.6-27B-FP8 和 Qwen3.8-27B-FP8 两款开源模型,支持工具调用、结构化 JSON 输出和图像输入。请求经内网直达推理服务器,不经过公网;采用公平共享机制,高峰时段排队,用量少的用户优先响应。

🏷️

标签

➡️

继续阅读