InsTALL: Context-aware Instructional Task Assistance Based on Multi-modal Large Language Models
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究开发了上下文感知教学任务助手InsTALL,解决了多模态虚拟助手在执行多步骤任务时的上下文感知不足问题。该系统通过在线视觉流和任务数据,实现了对用户查询的实时响应,并在多模态活动理解和自动错误识别方面表现优异。
🎯
关键要点
- 本研究开发了上下文感知教学任务助手InsTALL,旨在解决多模态虚拟助手在执行多步骤任务时的上下文感知不足问题。
- InsTALL系统通过在线视觉流和任务数据,实现了对用户查询的实时响应。
- 研究表明,InsTALL在多模态活动理解的子任务上达到了最佳性能。
- 该系统在自动错误识别方面超越了现有基准,表现优异。
➡️