发现新一代多语言高品质Phi-3.5 SLMs
内容提要
微软推出了Phi-3.5-mini、Phi-3.5-vision和Phi-3.5-MoE等新产品，这些模型在多语言支持、图像理解和推理能力方面表现出色。Phi-3.5-MoE是一个混合专家模型，具有16个专家和66亿个参数，支持128K的上下文长度。Phi-3.5-mini具有多语言支持和128K的上下文长度。Phi-3.5-vision提高了多帧图像的理解和推理能力。这些模型在性能和安全性方面超越了更大规模的模型，并为各种任务提供了良好的能力。
关键要点
-
微软推出了Phi-3.5-mini、Phi-3.5-vision和Phi-3.5-MoE等新产品，具有多语言支持和图像理解能力。
-
Phi-3.5-MoE是一个混合专家模型，包含16个专家和66亿个参数，支持128K的上下文长度。
-
Phi-3.5-mini增强了多语言支持，具有128K的上下文长度，适合长文档处理。
-
Phi-3.5-vision提升了多帧图像的理解和推理能力，在单图像基准测试中表现优异。
-
Phi-3.5-MoE在多语言任务上表现出色，尽管只有66亿个活跃参数，性能与更大模型相当。
-
Phi-3.5-mini经过多轮预训练和后训练，显著提升了多语言和推理能力。
-
Phi-3.5系列模型遵循微软负责任人工智能标准，注重安全性和多语言能力。
-
ONNX Runtime为Phi系列模型提供优化的推理功能，提升性能。
-
引导功能使Phi-3.5-mini的输出更加可预测，降低成本和延迟。
-
Phi-3.5模型系列为开源社区和Azure客户提供高性价比的选择，推动生成式AI的发展。
延伸问答
Phi-3.5-MoE模型的主要特点是什么？
Phi-3.5-MoE是一个混合专家模型，包含16个专家和66亿个参数，支持128K的上下文长度，具有多语言支持和高性能。
Phi-3.5-mini在多语言支持方面有什么优势？
Phi-3.5-mini增强了多语言支持，经过多轮预训练和后训练，显著提升了多语言和推理能力，支持超过20种语言。
Phi-3.5-vision模型的应用场景有哪些？
Phi-3.5-vision适用于多帧图像理解和推理，能够实现图像比较、多图像汇总和视频摘要等功能。
Phi-3.5系列模型如何确保安全性？
Phi-3.5系列模型遵循微软负责任人工智能标准，采用多方面的安全评估和训练后安全方法，注重多语言能力的安全性。
Phi-3.5-mini的上下文长度支持是多少？
Phi-3.5-mini支持高达128K的上下文长度，适合长文档处理。
ONNX Runtime对Phi系列模型的作用是什么？
ONNX Runtime为Phi系列模型提供优化的推理功能，提升模型在各种硬件上的性能。
