本文介绍Qdrant向量数据库在集合超出内存时的优化方法。通过量化压缩向量(如TurboQuant bits4)并固定压缩副本在RAM中,原始向量移至磁盘,可减少内存占用。重打分(rescore)虽增加磁盘读取,但能恢复精度,尤其对低比特量化(如bits1)效果显著。建议从bits4开始,根据测试调整参数,并验证召回率与延迟。
Qdrant向量数据库通过量化与重打分机制应对向量集合超出内存的情况:量化在内存保留压缩副本,原始向量移至磁盘;TurboQuant通过旋转向量均匀分布误差,bits4为常用默认值;重打分读取原始向量修正压缩误差,但增加磁盘读取开销。测试表明,1比特量化配合重打分和过采样可将召回率从0.605恢复至0.951,接近float32基线。建议固定量化副本、原始向量冷存储,并启用io_uring异步读取。
完成下面两步后,将自动完成登录并继续当前操作。