vLLM 默认多模态参数导致 Qwen 3.8 27B 报错

vLLM 默认多模态参数导致 Qwen 3.8 27B 报错

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

vLLM部署Qwen 3.8 27B时,默认参数限制了图片和视频输入,导致报错。通过删除`--limit-mm-per-prompt.image 2`和`--limit-mm-per-prompt.video 0`并重启Docker,问题得到解决,模型恢复正常。

🏷️

标签

➡️

继续阅读