标签

 扩散模型 

相关的文章:

本列表汇集了关于扩散模型的最新研究进展与技术,包括推理加速、视频生成、异常检测等领域的创新成果,助力学术与应用的深入探索。

用于分类生成建模的连续增强离散扩散模型
用于分类生成建模的连续增强离散扩散模型
Apple Machine Learning Research

Apple Machine Learning Research ·

来自英国剑桥大学的研究团队提出了 CytoDiffusion——一种基于扩散模型的血液细胞图像分类方法。它能够忠实建模血细胞形态分布,实现精准分类,同时具备强大的异常检测能力、对分布偏移的抵抗力、可解释性、高数据效率,以及超越临床专家的不确定性量化能力。

LDM(潜在扩散模型)仍然是主流,但高倍压缩导致信息损失。新方法JiT直接预测原始数据,简化模型架构,提升高分辨率生成效果。尽管JiT未显著超越现有SOTA,但降低了计算成本,增强了模型的可迁移性和统一性。

生成扩散模型漫谈(三十一):预测数据而非噪声
科学空间|Scientific Spaces

科学空间|Scientific Spaces ·

何恺明团队的新论文提出扩散模型应聚焦于去噪,直接预测干净图像而非噪声。新架构JiT(Just image Transformers)设计简化,避免复杂组件,实验表明其在高维空间中表现优越,生成质量高。

清华与快手团队推出的SVG模型在训练效率上提升6200%,生成速度提升3500%。该模型通过构建语义与细节融合的特征空间,解决了VAE的语义纠缠问题,支持多任务通用,生成质量和效率显著优于传统方法。

麻省理工学院李明达教授团队等提出 SCIGEN 几何结构约束集成方法,可适配任意预训练生成式扩散模型,用以整合对称性和几何图案约束,从而生成含特殊限定的目标材料。

OpenAI研究员宋飏被Meta聘为MSL研究负责人,曾在扩散模型领域做出重要贡献,并推动模型能力提升。他在清华和斯坦福学习,展现出卓越的科研才能。

细胞形态学研究利用高通量图像分析技术,解析遗传和药物干扰下的细胞变化。MorphDiff模型高效模拟细胞形态,降低实验成本,提高药物研发效率,具有广泛应用前景。

成像质谱(IMS)在生物学中用于可视化生物组织的分子分布。研究者提出结合IMS与光学显微镜的多模态方法,开发基于扩散模型的虚拟染色技术,以提高空间分辨率并简化工作流程。该技术在无标记组织的质谱图像中引入细胞形态对比度,具有重要的临床应用潜力。

华人团队研究表明,扩散语言模型在token数量受限时,其数据潜力超过自回归模型三倍,且未出现性能饱和。该模型通过双向建模和高计算密度提升学习效果,且在过拟合情况下性能仍可能持续提升。

蒙特卡洛树扩散(MCTD)结合了蒙特卡洛树搜索与扩散模型,有效解决了扩散模型在长程推理中的可扩展性问题。在迷宫导航等任务中,MCTD的成功率接近100%。为提高效率,研究团队推出了快速MCTD,使推理速度提升100倍,显著降低计算开销。

PaddleMIX推出Fast-Diffusers工具箱,通过模型蒸馏和推理优化,将推理速度提升超过2倍。FLUX-Lightning模型实现4步快速生成,效果超越现有模型,结合CINN技术,推理时间缩短至1.66秒。未来将继续优化推理效率,推动扩散模型的应用。

飞桨PaddlePaddle推出扩散模型推理加速插件,利用模型蒸馏和推理缓存等技术,将推理速度提升超过2倍,同时保持生成质量。主要方法包括SortBlock、TeaBlockCache和FirstBlock-Taylor,开发者可灵活应用这些插件以优化实时应用。