Mistral AI发布两款小型语言模型Les Ministraux

Mistral AI发布了两款小型语言模型Ministral 3B和8B，称为les Ministraux，专为本地推理应用设计。

这两款模型在多项LLM基准测试中表现优于同类模型。

Ministral 8B采用滑动窗口注意力机制，推理速度更快。

与之前的Mistral 7B不同，les Ministraux需商业许可，并可通过API访问。

les Ministraux适用于隐私优先的关键应用，如设备翻译、无网络智能助手、本地分析和自主机器人。

Mistral AI还开发了其他多个专用模型，大多数模型采用Apache 2.0许可证。

les Ministraux在MMLU、Winogrande和GSM8k等基准测试中表现优异，3B模型超越Llama 3.2 3B和Gemma 2 2B。

在Hacker News讨论中，用户对模型需商业许可表示遗憾，但也指出API的可用性。

用户质疑Mistral AI与Meta等大型模型创作者的竞争能力，认为需要更好的API平台。

Ministral 8B Instruct模型权重可从Huggingface下载用于研究目的。