空时中的乘法残差哈希神经视频分解

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

该文介绍了一种视频分解方法,可对具有时空变化照明和运动效果的视频进行基于层次的编辑。通过神经模型将输入视频分解为多个分层表示,包括2D纹理贴图、原始视频的掩码以及表征光照条件时空变化的乘法残差。该方法可以高效学习1080p视频的基于层次的神经表示,并在单个GPU上实时渲染编辑结果。同时,提出了采用特征跟踪评估指标来客观评估视频编辑的一致性。

🎯

关键要点

  • 提出了一种视频分解方法,支持时空变化照明和运动效果的视频编辑。
  • 神经模型将输入视频分解为多个分层表示,包括2D纹理贴图、原始视频的掩码和光照条件的乘法残差。
  • 通过对纹理贴图的单个编辑,可以在整个视频帧中保持一致性。
  • 采用坐标哈希技术,以每帧25秒的速度高效学习1080p视频的基于层次的神经表示。
  • 在单个GPU上以71帧每秒的速度实时渲染编辑结果。
  • 在定性方面,展示了该方法在各种视频上生成高质量编辑效果的有效性。
  • 提出特征跟踪评估指标,以客观评估视频编辑的一致性。
➡️

继续阅读