BriefGPT - AI 论文速递
·
多模式提示下的开放世界人物 - 物体交互检测
💡
原文中文，约500字，阅读约需2分钟。
📝
内容提要
我们开发了一种名为MP-HOI的多模态基于提示的HOI检测器，能够利用文本描述进行开集通用化，并通过处理描述中的高歧义，实现对开放世界中的HOI的检测。MP-HOI通过统一的对比损失将HOI任务优化为多模态提示和对象/交互之间的相似度学习过程，以学习可推广和可传递的对象/交互表示。MP-HOI可以作为HOI检测器的通用模型，词汇量超过现有专家模型的30倍以上。同时，MP-HOI在真实世界的场景中表现出卓越的零样本能力，并在各种基准测试中始终达到新的最先进性能。
🎯
关键要点
- 开发了一种名为MP-HOI的多模态基于提示的HOI检测器。
- MP-HOI能够利用文本描述进行开集通用化，并处理高歧义以检测开放世界中的HOI。
- 构建了名为Magic-HOI的大规模HOI数据集以促进MP-HOI的训练。
- 介绍了一个自动化流程生成逼真的HOI图像，并提供了包含100K图像的高质量合成HOI数据集SynHOI。
- MP-HOI通过统一的对比损失优化HOI任务，实现多模态提示与对象/交互之间的相似度学习。
- MP-HOI的词汇量超过现有专家模型的30倍以上。
- MP-HOI在真实世界场景中表现出卓越的零样本能力，并在各种基准测试中达到新的最先进性能。
➡️
