挖坑不填兽
·
一次不成功的 pull request
💡
原文中文，约1900字，阅读约需5分钟。
📝
内容提要
文章探讨了一种将4096维向量降维至256维的简单算法，适用于RAG应用。作者尝试了多种不依赖外部库的算法，发现按固定区间分组求平均值的效果最佳。尽管算法简单且具有实验意义，但仍需改进。接下来，作者计划构建基于样本集的降维算法，并开发独立的矩阵计算库，以更好地处理新出现的嵌入模型。
🎯
关键要点
- 文章探讨了一种将4096维向量降维至256维的简单算法，适用于RAG应用。
- 作者希望找到一个不依赖外部库的简单压缩算法，能够有效处理嵌入向量。
- 尝试了多种算法，发现按固定区间分组求平均值的效果最佳。
- 尽管算法简单且具有实验意义，但仍需改进。
- 计划构建基于样本集的降维算法，并开发独立的矩阵计算库。
- 希望新算法能够有效处理新出现的嵌入模型。
➡️
