小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate

本研究提出了一种名为MCAF的无训练框架,旨在解决长视频理解的挑战。MCAF通过多模态粗到细的注意力集中策略,优先处理与理解任务相关的片段,从而显著提高准确性和整体性能,超越现有方法。

MCAF: An Efficient Agent-based Video Understanding Framework through Multimodal Coarse-to-Fine Attention Focusing

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-04-24T00:00:00Z

本研究提出Mavors框架,旨在解决多模态大语言模型在长视频理解中的计算效率与细粒度时空模式保持之间的矛盾。通过多粒度视频表示方法,显著提升了复杂运动和不同分辨率视频的时空推理性能。

Multimodal Large Language Model with Multi-Granularity Video Representation

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-04-14T00:00:00Z
多榜单登顶!华为 & 哈工深团队提出 AdaReTaKe,突破长视频理解极限

哈尔滨工业大学与华为联合提出了AdaReTaKe框架,解决长视频理解中的冗余问题。该框架无需训练,通过动态压缩视频信息,使多模态模型处理长度提升至2048帧,性能在多个基准测试中超越同规模模型3-5%。此研究为长视频理解设立了新标杆。

多榜单登顶!华为 & 哈工深团队提出 AdaReTaKe,突破长视频理解极限

机器之心 机器之心 · 2025-04-04T05:39:00Z

本研究提出了一种语义驱动的搜索框架,解决长视频理解中文本查询与视觉元素之间的逻辑关系。通过定义四种逻辑依赖关系,动态更新帧采样分布,实现语义关键帧识别,显著提升了关键帧选择和视频问答任务的性能。

Logic-in-Frames: Dynamic Keyframe Search for Long Video Understanding via Visual Semantic-Logical Verification

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-03-17T00:00:00Z

本研究提出了VideoRAG框架,旨在改善长视频理解。该框架采用双通道架构,整合图基文本知识和多模态上下文编码,能够处理无限长度的视频,并通过跨视频知识图谱维持语义依赖性。实验证明,VideoRAG在长视频处理上优于现有方法。

Video Retrieval-Augmented Generation: Processing Extremely Long Context Videos

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-02-03T00:00:00Z

本研究提出了时间偏好优化(TPO)框架,以解决长视频理解中的时间基准问题。通过自我训练和偏好学习,显著提升了模型的时间理解能力,展示了TPO在长视频理解中的潜力。

Temporal Preference Optimization for Long Video Understanding

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-01-23T00:00:00Z

本研究提出了一种半自动化的方法,生成挑战性问答集,以提升长视频理解能力。Neptune 数据集涵盖了广泛的长视频推理能力,基准评估显示现有模型在此数据集上的表现较差,尤其在时间顺序和状态变化等方面,推动了更先进模型的发展。

Neptune: The Long Journey to Benchmarking Long Video Understanding

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-12-12T00:00:00Z

本研究提出了一种视频检索增强生成(Video-RAG)的方法,旨在解决大型视频语言模型在长视频理解中的局限性。通过视觉对齐的辅助文本,Video-RAG显著提升了跨模态对齐效果,减少了对高质量数据和GPU资源的依赖,并在多个基准测试中表现优异。

Video Retrieval-Augmented Generation: Visually-Aligned Long Video Comprehension

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-11-20T00:00:00Z

本文探讨了现有模型在视频和语言任务中的局限性,并提出了多个新基准测试(如EgoSchema、MVBench、InfiniBench、E.T.基准和TemporalBench),以评估多模态大型语言模型在长视频理解中的表现。研究表明,现有模型在细粒度时间理解方面与人类存在显著差距,强调了改进的必要性。

一小时视频语言理解

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-11-07T00:00:00Z

本文介绍了多个新的视频理解基准,包括AGQA、MVBench、MMWorld和TemporalBench,旨在评估多模态语言模型(MLLMs)在视频分析中的表现。研究发现现有模型在时间推理和长视频理解方面存在显著不足,并提出了改进方法和新框架以提升模型性能。

评估多模态基础模型的视觉时间推理能力的TOMATO

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-30T00:00:00Z

智源研究院与多所高校合作推出Video-XL模型,能够高效理解小时级超长视频。该模型仅需一块80G显卡,处理2048帧输入,准确率接近95%。Video-XL在长视频理解任务中表现优异,解决了现有模型的性能和效率问题,未来可广泛应用于电影摘要等领域。

一块显卡理解一部电影,最新超长视频理解大模型出炉!“大海捞针”准确率近95%,代码已开源

量子位 量子位 · 2024-10-28T09:30:03Z

本文介绍了多种视觉语言模型(VLM)及其在3D视觉定位、自动驾驶和长视频理解等领域的应用与挑战。提出的新框架和方法,如ViewRefer、Talk2BEV和PerceptionGPT,显著提升了模型性能,尤其在细粒度理解和长视频处理上,解决了现有模型的局限性。

PerspectiveNet:多视角感知动态场景理解

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-22T00:00:00Z

本文探讨了大型语言模型(LLMs)在长视频理解中的应用,提出了LongVLM和LongVILA等新模型,解决了上下文长度限制和视觉信息丢失的问题。这些模型在视频字幕生成和理解任务中表现优异,展现了广泛的应用前景。

视觉上下文窗口扩展:长视频理解的新视角

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-09-30T00:00:00Z

本文介绍了一种新的视频问答(VideoQA)框架,结合异构内存和多模态融合层,通过自我更新的注意力实现多步推理,提升了在多个基准数据集上的性能。同时,提出了新的数据集和模型,以改善长视频的理解和推理能力,推动视频问答研究的发展。

自上而下的活动表征学习用于视频问答

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-09-12T00:00:00Z

本文介绍了针对长视频理解的模型和基准测试,包括 LongVLM、VideoAgent 和 DrVideo。这些模型通过视频分解、层次性记忆机制和文档检索等方法,提高了长视频问答的准确性和效率。研究表明,现有模型在长视频理解上仍面临挑战,新的基准测试 LVBench 和 InfiniBench 旨在推动该领域的发展。

金鱼:对任意长视频的视觉语言理解

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-07-17T00:00:00Z

该研究引入了多模式视频理解基准(MVBench)和长视频理解基准(LVBench),评估多模态大型语言模型(MLLMs)的性能。结果显示,VideoChat2在MVBench上表现优于其他模型15%。研究指出当前模型在长视频理解方面的不足,并提出新的评估方法,以推动更先进模型的发展。

MMBench-Video:一种用于整体视频理解的长形多镜头基准

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-06-20T00:00:00Z

本文探讨了通过生成预训练模型优化对象位置和形状建模的视觉先验学习,适用于多种视觉任务。研究显示在长视频理解和多模态生成中显著提升性能,并提出新框架和方法以增强视频与文本的结合效果。

通过生成式预训练学习长形式视频首选权

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-04-24T00:00:00Z

该文综述多模态大语言模型在长视频理解中的进展,涵盖TimeChat、LLoVi、Video-ChatGPT、VideoLLM、MovieChat等模型,通过时间感知编码、记忆机制和语言框架提升长视频问答、定位与推理能力,指出LLM在视频理解中潜力巨大。

LVCHAT:促进大视频理解

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-19T00:00:00Z

本文综述长序列建模进展,包括Ring Attention分块计算提升内存效率、LongNet扩张注意力处理超十亿标记、MovieChat用记忆机制理解长视频、VideoLLM借LLM推理能力做视频理解、LightSeq优化长上下文训练,以及线性注意力和语音识别改进。

百万长度视频和语言的环形注意力世界模型

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-13T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码