该研究提出了一种新的LLM服务范例,通过在边缘设备上进行隐私敏感计算并在云端共享计算,实现了数据本地性。核心创新PrivateLoRA通过利用低秩性质实现了超过95%的通信减少,同时提供了与LoRA相媲美的调优性能。该框架是文献中第一个高效且保护隐私的LLM解决方案。
该研究提出了一种新的LLM服务范例,通过在边缘设备上进行隐私敏感计算并在云端共享计算,实现了数据本地性。核心创新PrivateLoRA通过利用低秩性质实现了超过95%的通信减少,同时提供了与LoRA相媲美的调优性能。这是文献中第一个高效且保护隐私的LLM解决方案。
完成下面两步后,将自动完成登录并继续当前操作。