Milvus 使用 Amazon Graviton3 实例实现高达 31% 的性价比提升
内容提要
生成式AI的兴起引发了对向量数据库市场的关注，向量数据库通过存储和搜索向量来支持生成式AI和深度学习应用。市场上的向量数据库可分为扩展型和独立型两类，其中Milvus是全球最流行的开源向量数据库之一。最近的基准测试显示，Milvus在Graviton3处理器上的性能优于Intel Xeon Platinum 8375C处理器，且性价比提升高达31%。
延伸解读
测试环境与参数一致性
本次基准测试在Graviton3（m7g）和Intel Xeon Platinum 8375C（m6i）实例上进行，操作系统均为Amazon Linux 2023，存储配置为GP3 80G，保持默认性能选项。测试使用VectorDBBench工具，采用HNSW算法索引Cohere 1M数据集，并为ARM64和x86平台设置了相同的HNSW参数，确保了对比的公平性。
性能与性价比提升的具体数据
测试结果显示，Milvus在Graviton3上的QPS比Intel处理器高出13.7%。考虑到m6i实例单价比m7g贵约17.6%，综合计算后Graviton3带来了高达31%的性价比提升。这一数据为读者评估迁移到Graviton3的潜在收益提供了量化参考。
Graviton3的硬件优势与适用场景
Graviton3处理器相比Graviton2，计算性能提高25%，浮点性能提高2倍，加密工作负载性能提高2倍，机器学习工作负载性能提高3倍，并支持DDR5内存，内存带宽增加50%。这些特性使其特别适合向量数据库等对计算和内存带宽要求较高的AI工作负载。
测试的局限性与实际部署考量
本次测试仅针对特定配置（m7g vs m6i）和数据集（Cohere 1M），使用HNSW算法。实际生产环境中的性能可能因数据规模、查询模式、参数调优等因素而异。读者在迁移前应结合自身工作负载进行验证，并考虑整体架构的兼容性。
Q&A
Milvus是什么类型的数据库？
Milvus是全球最流行的开源向量数据库之一，主要用于存储和搜索向量。
Amazon Graviton3处理器相比于Intel Xeon Platinum 8375C有哪些优势？
Amazon Graviton3处理器在性能和性价比上优于Intel Xeon Platinum 8375C，性价比提升高达31%。
向量数据库的核心功能是什么？
向量数据库的核心功能是快速存储、索引和搜索Embedding向量。
生成式AI如何利用向量数据库？
生成式AI通过将非结构化数据转换为向量进行存储，并使用向量相似性搜索技术进行语义相关性搜索。
Milvus在Graviton3上的性能提升有多大？
基准测试显示，Milvus在Graviton3上的QPS比Intel处理器高出13.7%。
如何安装Milvus和VectorDBBench？
可以通过SSH登录EC2实例，执行相关命令安装Milvus和VectorDBBench，具体步骤在文章中有详细说明。
