量子位
·
如何让大模型感知知识图谱知识？蚂蚁联合实验室：利用多词元并行预测给它“上课”
💡
原文中文，约2600字，阅读约需7分钟。
📝
内容提要
蚂蚁联合实验室提出的K-ON方法通过多词元并行预测，提升了大模型对知识图谱的感知能力。在知识图谱补全任务中，该方法表现优于现有技术，训练和推理效率更高。实验结果显示，K-ON在多个数据集上均取得显著优势。
🎯
关键要点
- 蚂蚁联合实验室提出K-ON方法，通过多词元并行预测提升大模型对知识图谱的感知能力。
- K-ON在知识图谱补全任务中表现优于现有技术，训练和推理效率更高。
- K-ON方法利用多个词元描述知识图谱中的实体，解决了粒度不匹配的问题。
- K-ON通过并行预测多个实体的词元概率，采用实体层级的对比学习来增强模型性能。
- 实验结果显示，K-ON在多个数据集上均取得显著优势，且推理时间和训练时间受K值影响不大。
- K-ON实现了高效的对比学习，能够处理上千个负样本实体，优化了训练效率。
- 蚂蚁在AAAI 2025会议上有18篇技术论文被收录，展示了其在人工智能领域的研究成果。
➡️
