COM Kitchens:一个未经编辑的俯视视频数据集作为一个视觉 - 语言基准测试

💡 原文中文,约1500字,阅读约需4分钟。
📝

内容提要

EPIC-KITCHENS数据库是一个大规模数据集,包含32名参与者的55小时第一人称视角视频,涵盖39.6K个动作段和454.3K个物体边界框,记录了厨房中的日常行为,具有多样性和真实意图的注释,推动了视频领域的研究与评估。

🔎

延伸解读

数据集的核心特点

EPIC-KITCHENS 是一个大规模第一人称视角视频数据库,包含 32 名参与者的 55 小时视频,密集标注了 39.6K 个动作段和 454.3K 个物体边界框。其注释与真实意图紧密相关,记录了厨房中的日常行为,具有多样性和真实性,为第一人称视频研究提供了丰富资源。

后续扩展与影响

基于原始数据集,研究者推出了 EPIC-KITCHENS-100,将规模扩展至 100 小时、2000 万帧、90,000 个动作,涵盖 45 个环境中的长期非剧本活动。该扩展在细粒度动作、动作检测、动作识别、无监督域适应和跨模态检索等领域提供了新的挑战与评估基准,推动了第一人称视频领域的发展。

相关研究与应用

文章还提及了多个相关数据集和研究,如 Nutrition5k 用于预测菜肴热量和营养素,CoVR 任务扩展了组合图像检索,ViTT 数据集用于密集视频字幕,以及 Microsoft Research Multimodal Aligned Recipe Corpus 用于多模态对齐。这些工作展示了视频理解在烹饪、营养和教学等领域的广泛应用。

❓

Q&A

EPIC-KITCHENS数据库包含哪些类型的数据?

EPIC-KITCHENS数据库包含来自32名参与者的55小时第一人称视角视频,记录了39.6K个动作段和454.3K个物体边界框。

EPIC-KITCHENS数据库的主要用途是什么?

该数据库可用于第一人称视角视频领域的挑战评估和研究,推动相关领域的发展。

EPIC-KITCHENS数据库的注释特点是什么?

数据库的注释与真实意图紧密相关,具有多样性和真实意图的注释。

EPIC-KITCHENS数据库如何推动视频领域的研究?

通过提供大规模和多样化的厨房日常行为记录,EPIC-KITCHENS数据库为视频领域的研究与评估提供了丰富的数据基础。

EPIC-KITCHENS数据库的参与者来自哪里?

参与者来自不同国籍,确保了数据的多样性。

EPIC-KITCHENS数据库的规模有多大?

数据库包含55小时的视频和超过39.6K个动作段,454.3K个物体边界框,规模非常庞大。

🏷️

标签

➡️

继续阅读