本研究提出了一种结构化噪声遮蔽方法，解决了现有方法忽视模态特性的缺陷，显著提升了视频和音频建模性能，强调了遮蔽策略的重要性。

本研究提出了一种去噪扩散概率模型的视频建模框架，能够生成长时间视频。该方法优化采样顺序，使用选择性稀疏和长程调节，在多个数据集上表现优于现有技术，生成了长达25分钟的视频。此外，研究还发布了一个基于CARLA自动驾驶模拟器的视频数据集和语义度量。

新架构RNN反超Transformer，将隐藏状态换成可学习的模型，称为TTT。TTT在短上下文时表现超过了Transformer和Mamba，且能更好利用长上下文。隐藏状态模型可以是任意模型，可用于压缩上下文和视频建模。TTT方法还需继续研究和努力。

AVT是一种基于注意力机制的视频建模架构，通过关注之前观察过的视频来预测未来的动作。AVT在多个动作预测基准测试中表现出最佳性能，并在挑战赛中获得第一名。

该研究提出了一种基于去噪扩散概率模型的视频建模框架，可在真实环境下生成长时间视频，并获得更好的建模结果。研究还发布了一个基于CARLA自动驾驶模拟器的数据集和具有语义意义的度量。

AVT是一种基于注意力机制的视频建模架构，能够预测未来的动作。AVT在保持观察到的动作的时序进展的同时捕捉了长时间的依赖性，达到了最佳性能，并在EpicKitchens-100 CVPR'21挑战赛中获得了第一名。

AVT是一种基于注意力机制的视频建模架构，能够通过关注之前的视频来预测未来的动作。AVT能够捕捉长时间的依赖性，提高预测性能，并在多个动作预测基准测试中表现最佳。AVT在EpicKitchens-100 CVPR'21挑战赛中获得第一名。