嵌入模型生成的向量具有明显的模型指纹,能够区分不同的任务指令。使用小型变换器分类器,准确率达到87%。该方法通过将浮点数视为字符序列进行标记,避免了结构假设。研究结果表明,不同模型和任务的输出模式可以有效区分,具有审计向量数据库和验证API模型使用的实际价值。
模型合并是一种轻量级模型增强技术,不需要昂贵设备和特定训练数据。研究发现,大型语言模型的水印技术在合并模型中无法存活,而模型指纹技术可以。研究强调在模型IP保护评估中应考虑模型合并,促进开源LLM社区的发展。
完成下面两步后,将自动完成登录并继续当前操作。