使用优化型读取和 pgvector，提高 Amazon Aurora 上生成式人工智能工作负载的性能

一些应用场景需要实时进行高性能的向量比较，存储数百万到数十亿个向量嵌入体。

Amazon Titan Embeddings G1模型生成1536维的嵌入体，内存无法容纳整个向量索引。

Amazon Aurora优化型读取提升向量工作负载性能，减少资源使用。

结合pgvector HNSW索引，查询性能提升20倍，提供低延迟响应。

使用HNSW索引的优化型读取实例，平均查询吞吐量性能提高多达九倍。

相似度搜索分为KNN和ANN，KNN返回最相关结果，ANN性能更高。

嵌入模型生成的向量占用大量内存，KNN操作需移动5.7 TiB数据。

Aurora优化型读取使用NVMe本地SSD存储临时数据，改善读取延迟和吞吐量。

优化型读取缩短查询延迟9倍，适用于超出数据库实例内存容量的大型数据集。

基准测试使用BIGANN Benchmark，评估使用和不使用优化型读取的性能。

基准测试关注性能和查全率，ANN算法管理查全率与查询吞吐量的取舍。

优化型读取实例的查询吞吐量平均高出6到7倍，消除磁盘I/O瓶颈。

优化型读取实例的CPU利用率高达95%，而标准实例未超过15%。

优化型读取为向量工作负载提供高性能、经济实惠的解决方案。

并非所有向量工作负载都能从优化型读取中受益，更新频繁的向量数据可能不适用。

Aurora优化型读取提供高性能、经济实惠的选项，适合超出实例内存的向量工作负载。

开发者可使用SQL和pgvector在Aurora PostgreSQL中执行向量相似度搜索，构建生成式AI应用。