LLM 间在不泄露私人信息的情况下是否可能相互协助？
内容提要
本文探讨了通过在线级联学习降低大规模语言模型推理成本的方法，提出了有效的模型选择和推迟策略，能够将成本降低90%。研究评估了LLM集成系统的机密性，发现现有防御策略缺乏泛化能力，并提出了鲁棒性微调方法以提高系统弹性。同时，强调了社交学习在LLM中的应用，展示了知识传递的有效性和隐私保护的重要性。
延伸解读
级联学习的成本效益
文章指出，通过在线级联学习，将简单问题分配给较小模型、复杂问题才调用大模型，可降低推理成本高达90%并保持准确性。另一种级联方案利用答案一致性判断难度，在六个推理基准上达到大模型性能的40%成本。这表明级联策略在流处理中具有适应性和有效性，为降低大规模模型部署成本提供了可行路径。
隐私泄露风险与防御局限
研究通过“秘密密钥”游戏评估LLM集成系统的机密性，发现现有防御策略在攻击策略上缺乏泛化能力。ConfAIde基准测试显示，即使使用隐私保护提示或思维链推理，GPT-4和ChatGPT仍有39%和57%的概率泄露私人信息。这凸显了探索基于推理和心智理论的新型隐私保护方法的迫切性。
社交学习与知识传递
文章介绍了LLM间的社交学习框架，模型通过自然语言以隐私保护方式共享知识。两种知识传递方法——生成抽象提示和合成示例——在多个数据集上评估，以记忆作为隐私损失代理，结果显示原始数据记忆化较低，性能与使用原始标签和提示相当。这证明了社交学习在LLM中的可行性，并指出了尚未开发的领域。
模型规模与PII关联能力
研究发现，随着模型规模扩大，其关联实体或信息的能力增强，但在关联常识知识与个人可识别信息（PII）方面存在明显差距。这种差距可能随着模型能力提升而缩小，从而对PII机密性构成潜在威胁。这提醒我们，在模型扩展过程中需持续关注隐私风险，并开发相应的防护措施。
Q&A
如何通过在线级联学习降低大规模语言模型的推理成本？
通过确定适用的模型和推迟策略，在线级联学习可以将推理成本降低至90%，同时保持准确性。
现有的LLM防御策略存在哪些不足？
现有防御策略在攻击策略方面缺乏泛化能力，无法有效应对多样化的攻击。
社交学习在大型语言模型中的作用是什么？
社交学习允许模型通过自然语言共享知识，评估知识传递方法时隐私损失较低。
大型语言模型在关联常识知识与PII方面存在哪些问题？
大型语言模型在关联常识知识与个人识别信息（PII）方面存在明显的差距，可能导致隐私泄露。
如何评估LLM的知识传递方法的隐私损失？
通过记忆作为隐私损失的代理进行量化，评估不同知识传递方法的效果。
LLM级联模型如何提高计算效率？
通过使用较弱但便宜的模型解决简单问题，复杂问题才使用更强大的模型，从而提高计算效率。
