Mistral的Mixtral 8x7B在线测试网址

💡 原文中文,约2400字,阅读约需6分钟。
📝

内容提要

Mistral发布了Mixtral 8x7B,一种具有开放权重的高质量稀疏专家混合模型。Mixtral-8x7b-32kseqlen、DiscoLM-mixtral-8x7b-v2已上线。Mixtral优化了Together推理引擎,速度高达100个token/秒,价格为0.0006美元/1K代币。Mixtral在基准测试中优于Llama 2 70B,匹配或优于GPT3.5。它处理32k令牌的上下文,处理多种语言,代码生成性能强大。快速排序是一种快速高效的排序算法,时间复杂度为O(n log n)。

🏷️

标签

➡️

继续阅读