vLLM最近增加了对流式输入和实时WebSocket API的支持，以改善实时应用的推理能力。流式输入允许逐步处理输入并生成输出，减少延迟，提升用户体验。
完成下面两步后，将自动完成登录并继续当前操作。
