vLLM-Omni是一个高效的推理框架,支持文本、图像、视频和音频输入,具备低延迟执行能力。它适用于多模态助手、大规模媒体处理和实时多媒体应用,支持非自回归架构和并行生成模型。
正在访问的资源需要验证您是否真人。
或在微信中搜索公众号“小红花技术领袖”并关注
第二步:在公众号对话中发送验证码: