内容提要
英伟达发布免费开源工具PAIR,可将家中闲置电脑(如RTX显卡PC、MacBook)联网组成个人AI数据中心,用于本地AI推理任务。PAIR非硬件路由器,支持Windows、Linux和macOS,通过六位码和mTLS加密保障安全,能动态适应设备加入或离开,避免干扰用户正常使用。
延伸解读
PAIR并非路由器,而是软件方案
尽管名为“Personal AI Router”,PAIR并非硬件路由器,而是英伟达推出的免费开源软件。它通过发现并连接家庭网络中的兼容电脑,将其组成一个分布式的AI推理系统。该软件支持Windows、Linux和macOS,兼容RTX 20系列及以上显卡、RTX Pro GPU、DGX Spark系统以及苹果M4芯片或更新的设备。
利用闲置算力,避免干扰日常使用
PAIR的核心设计是在设备空闲时运行,以避免干扰用户的正常使用。例如,当用户开始玩游戏时,系统能动态适应设备的加入或离开。这种并行处理方式有助于分解复杂任务,减少单GPU的瓶颈。英伟达举例称,一个家庭若拥有多台高性能电脑,其闲置算力可达约165 teraflops,相当于“免费的token宝库”。
安全机制与适用场景
PAIR通过六位码配对设备,并使用mTLS加密通信,确保双向信任。英伟达产品经理表示,大多数用户可能拥有一台MacBook或Windows笔记本加一台游戏PC。该工具适合希望运行本地AI推理(如Ollama、LM Studio)的用户,但需注意其仍处于测试阶段,且对硬件有特定要求。
Q&A
英伟达的PAIR工具是什么?
PAIR是英伟达推出的免费开源软件,可以将家中闲置的电脑(如配备RTX显卡的PC或MacBook)联网组成个人AI数据中心,用于本地AI推理任务。
PAIR支持哪些设备和操作系统?
PAIR支持Windows、Linux和macOS系统,兼容的设备包括Nvidia GeForce RTX 20系列及更新的显卡、RTX Pro GPU、DGX Spark系统,以及Apple M4芯片或更新的Mac。
PAIR如何确保设备间的通信安全?
PAIR通过六位码配对设备,并使用mTLS(双向传输层安全)加密通信,确保设备间双向信任和加密传输。
PAIR在什么情况下会使用电脑资源?
PAIR只在电脑闲置时使用其计算资源,以避免干扰用户的正常使用,例如当用户开始玩游戏时,PAIR会动态适应设备离开网络。
PAIR适合哪些用户使用?
英伟达设想PAIR的主要用户是拥有至少一台MacBook或Windows笔记本和一台游戏PC的家庭用户,他们希望利用闲置算力运行本地AI。
PAIR与硬件路由器有何区别?
PAIR不是硬件路由器,而是英伟达开发的免费开源软件,用于发现并连接网络中的兼容PC,协同处理AI推理任务。
PAIR能带来什么好处?
PAIR可以将家中多台闲置电脑组成集群,并行处理大量AI推理请求,避免单GPU瓶颈,尤其适合需要分解复杂任务的agentic工作流。