Training Sparse Mixture of Experts Text Embedding Models
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本文讨论了基于Transformer的文本嵌入模型在参数增加时的推理延迟和内存使用问题。提出的Nomic Embed v2是首个通用的专家混合文本嵌入模型,性能优于同类模型,具有重要的应用潜力。
🏷️