turbovec是一个基于Rust的向量索引库，采用谷歌TurboQuant算法，提供Python绑定。它通过量化压缩将内存占用减少8-10倍，速度比FAISS快3.4倍，支持无训练、增量持久化和过滤搜索。适用于本地RAG应用，但需注意输入向量需L2归一化，且不同配置下召回率表现不一。

Qdrant 1.19发布，主要新功能包括：TurboQuant数据类型将向量压缩至4位，存储减少九倍；统一内存层级配置（固定、缓存、冷）；支持按租户计算IDF统计；新增关键词前缀匹配和切片过滤；Web UI增强，支持实时分片进度、大规模可视化及索引管理。另有资源配额、副本读取亲和性等改进。

Qdrant 1.18引入了TurboQuant，这是一种新的基于旋转的向量量化方法，提供8x、16x和32x的压缩率。与标量量化和二进制量化相比，TurboQuant在存储效率和召回率上表现更佳。建议用户在测试数据上尝试TurboQuant配置，以实现更高的召回率和更低的存储需求。该方法无需数据集训练，适用于各种嵌入模型。

Qdrant 1.18版本推出了TurboQuant量化方法，提供更高的压缩比和相似的召回率。新增内存监控功能，支持查看各组件的内存使用情况。用户可以在现有集合中添加和移除命名向量，简化模型迁移。同时，审计日志功能得到改进，增加了查询日志的API和请求追踪ID支持，提升了安全性和调试效率。

TurboQuant是谷歌推出的一种新算法套件，旨在高效压缩大型语言模型和向量搜索引擎，且不损失准确性。它采用两阶段压缩过程：PolarQuant和QJL，显著降低缓存内存消耗至3位。PolarQuant通过极坐标系统简化数据几何，消除内存开销，而QJL去除潜在偏差，确保高精度的注意力分数。TurboQuant提供了高效的KV缓存压缩解决方案。

Google推出的TurboQuant算法将AI内存KV缓存压缩6倍，几乎无损失，提升速度与吞吐量，降低成本，重塑行业结构。这项技术使AI更便宜、更快，推动复杂应用的发展，同时可能增加内存需求，给内存厂商带来压力与机遇。