pgvector：维度越少越好
内容提要
嵌入技术在AI应用中用于评估内容的语义相似性。Supabase通过pgvector扩展在Postgres中存储嵌入，提供向量数据类型和相似性计算。尽管pgvector面临全表扫描的挑战，但索引可以提升查询效率。OpenAI的text-embedding-ada-002等文本嵌入模型表现良好，但较小模型在性能和资源消耗上更具优势。选择嵌入模型时需考虑相似性表现、模型大小和支持的语言等因素。
延伸解读
索引与内存：pgvector 的性能关键
pgvector 在无索引时需全表扫描，数据量增大后性能下降。IVF 索引通过聚类减少距离计算，但索引本身需占用内存。高维向量（如 1536 维）体积大，百万级数据原始向量超 6GB，索引可能无法全部放入内存，导致查询变慢。因此，选择低维模型可减小索引体积，提升缓存命中率，是优化 pgvector 性能的重要方向。
低维嵌入的实测优势
Supabase 的测试显示，在相同准确率下，384 维的 all-MiniLM-L6-v2 比 1536 维的 text-embedding-ada-002 查询性能提升 78%，内存占用从 7.5GB 降至 4GB。而 gte-small 在保持准确率的同时，查询速度进一步提升超过 200%。这表明降低维度能显著减少计算量和内存需求，尤其适合资源有限或高并发的场景。
模型选择：平衡性能与成本
选择嵌入模型时，需综合考虑相似性表现、模型大小、序列长度、维度大小和支持语言。MTEB 排行榜显示，维度大小与性能并无直接关联，许多低维模型表现媲美甚至超越高维模型。例如 gte-small 仅 384 维，却在 MTEB 上排名高于 text-embedding-ada-002。但需注意，许多小模型仅支持英文，多语言场景应选择如 multilingual-e5-small 等模型。
降维技术的风险
虽然 PCA 和 t-SNE 等降维技术看似能压缩嵌入向量，但可能丢失重要语义信息。PCA 假设线性关系，难以保留高维文本嵌入中的非线性交互；t-SNE 则可能过度简化多元关系。此外，降维模型基于旧数据训练，若数据分布变化（如新增法律领域文档），其有效性会下降，导致低维表示无法维持原高维向量的语义连贯性。
Q&A
pgvector如何在Postgres中存储嵌入？
pgvector通过扩展Postgres，提供向量数据类型，使开发者能够在数据库表的常规列中存储嵌入。
使用pgvector时如何提高查询效率？
pgvector提供索引来提高查询效率，避免在没有索引的情况下进行全表扫描。
选择嵌入模型时需要考虑哪些因素？
选择嵌入模型时应考虑相似性表现、模型大小、序列长度、维度大小和支持的语言等因素。
较小的嵌入模型有什么优势？
较小的嵌入模型在性能和资源消耗上更具优势，能够提高查询速度和减少内存占用。
使用替代嵌入模型会影响OpenAI的使用吗？
使用替代嵌入模型并不会妨碍使用OpenAI进行其他任务，如检索增强生成。
降维技术在处理高维文本嵌入时的风险是什么？
降维技术如PCA和t-SNE可能导致重要语义信息的丢失，且不适合高维空间的关系建模。
