京东正式开源JoyAI-Image-Edit:AI图像编辑从“平面修图“迈向“空间重塑“

京东正式开源JoyAI-Image-Edit:AI图像编辑从“平面修图“迈向“空间重塑“

💡 原文中文,约1900字,阅读约需5分钟。
📝

内容提要

京东开源的多模态模型JoyAI-Image-Edit支持文生图、图像理解和空间编辑,具备像素级精细化编辑和真实立体感,解决了理解与生成之间的“空间断层”,在电商、机器人导航和3D重建等领域具有广泛应用前景。

🎯

关键要点

  • 京东开源多模态基础模型JoyAI-Image-Edit,支持文生图、图像理解和空间编辑。
  • 模型具备像素级精细化编辑能力和真实立体感,解决理解与生成之间的空间断层。
  • JoyAI-Image-Edit在空间理解和空间编辑能力上已达世界一流水平,超越现有开源模型。
  • 模型采用MLLM–MMDiT统一架构,深度融合生成与理解。
  • 支持视角变换、空间漫游和物体空间关系操控等空间编辑操作。
  • 模型支持15类通用编辑能力,表现卓越,适用于高难度任务。
  • 自研OpenSpatial数据引擎和百万级Blender渲染数据集为模型提供数据基础。
  • 在电商领域,商家可通过模型自动生成多角度展示图,降低成本和周期。
  • 在具身智能领域,模型可合成多视角训练样本,支持机器人导航和抓取任务。
  • 在3D重建领域,用户仅需三张图片即可生成几何一致的多视角图像序列。
  • 模型在建筑设计、游戏与影视领域提升创意验证效率,推动AI图像编辑的范式跃迁。

延伸问答

JoyAI-Image-Edit模型的主要功能是什么?

JoyAI-Image-Edit模型支持文生图、图像理解和空间编辑,具备像素级精细化编辑能力和真实立体感。

JoyAI-Image-Edit如何解决理解与生成之间的空间断层?

该模型通过深度融合生成与理解,注入空间感知,使理解、生成与编辑在统一框架内彼此增强。

JoyAI-Image-Edit在电商领域的应用前景如何?

在电商领域,商家可通过模型自动生成多角度展示图,降低成本和周期。

该模型支持哪些空间编辑操作?

模型支持视角变换、空间漫游和物体空间关系操控等空间编辑操作。

JoyAI-Image-Edit的技术架构是什么?

模型采用MLLM–MMDiT统一架构,深度融合生成与理解。

JoyAI-Image-Edit在3D重建领域的优势是什么?

用户仅需三张图片即可生成几何一致的多视角图像序列,简化了传统的3D重建流程。

➡️

继续阅读