Roblox发布3D智能基础模型Cube，一句话生成游戏资产

Roblox引入AI技术，发布3D智能基础模型Cude，提升用户游戏创作体验。

Cude能够生成3D物体、场景和角色，支持多样化的Roblox体验。

生成效果仍需改进，尤其在超出常识的物体生成上表现不佳。

Roblox的目标是构建一个可以生成Roblox游戏各方面体验的3D智能基础模型。

模型设想为协作助手，帮助开发者创造3D对象、场景布局和角色行为。

核心设计要求包括从稀疏多模态数据中联合学习、处理无界输入输出和与人类及AI系统协作。

Cube模型是Roblox向3D智能基础模型迈出的第一步，关注3D形状的token化。

新提出的token化方案可用于文本到形状生成、形状到文本生成和文本到场景生成。

研究提出了随机梯度捷径和自监督隐含空间正则化等技术以提高模型性能。

相位调制位置编码技术提高了模型在交叉注意力层中的空间区分能力。

研究者引入随机线性捷径以稳定训练过程，防止陷入局部最小值。

自监督损失用于正则化隐含空间，使相似形状产生接近的隐向量。

模型使用结构相似的编码器和解码器Transformer，参数量达到2.73亿。

训练数据包括约150万个3D物体资产，使用公开数据集和Roblox Creator Store资产。

研究比较了离散形状tokenizer与连续变体，发现连续变体在几何保真度上优于离散模型。

Roblox展示了文本到形状生成、形状到文本生成和文本到场景生成的具体应用。