InfoWorld
·
了解DiskANN：Copilot Runtime的基础
💡
原文英文，约1300词，阅读约需5分钟。
📝
内容提要
微软的Copilot Runtime边缘AI开发平台的关键组件之一是DiskANN，一种新的向量搜索技术。DiskANN是在微软研究项目基础上构建的，用于管理应用程序内的向量索引。它使用内存和磁盘存储的混合方式，适用于频繁变化的数据和代理AI应用程序。微软提供了diskannpy Python实现，用于构建和搜索索引。DiskANN在Copilot Runtime中的应用将减少生成式AI的风险，并保护源数据的隐私和SLM的基础。
🎯
关键要点
- 微软的Copilot Runtime边缘AI开发平台的关键组件之一是DiskANN，一种新的向量搜索技术。
- DiskANN基于微软研究项目，旨在管理应用程序内的向量索引，使用内存和磁盘存储的混合方式。
- DiskANN不是数据库，而是一组算法，用于将向量索引添加到不支持向量搜索的其他存储中。
- Copilot+ PC的硬件规格要求更高的内存和更快的SSD，但CPU需求低于其他向量搜索算法。
- 在处理个人可识别信息时，确保源数据加密是必要的，微软正在开发安全的加密技术。
- DiskANN使用Vamana图索引，适合频繁变化的数据，适用于代理AI应用程序。
- diskannpy是DiskANN的Python实现，提供构建和搜索索引的类，支持与NumPy等数据科学工具集成。
- 搜索功能简单，允许定义邻居数量和复杂性，需在准确性和延迟之间进行权衡。
- DiskANN优化了SSD和内存操作，能够经济地索引大量数据，具有高搜索准确性和低延迟。
- 在Copilot Runtime中，DiskANN的使用将降低生成式AI的风险，保护源数据隐私。
- 微软还在Cosmos DB等其他服务中使用DiskANN，增强快速向量搜索能力。
➡️
