为降低大规模视觉模型（LVMs）带来的有害输出风险，研究者推出了SafeSora数据集，以促进文本到视频生成与人类价值观的对齐。该数据集支持文本-视频审查模型和对齐算法的开发。同时，研究还探讨了文本到图像生成系统的安全性，发现现有防御措施不足，呼吁加强隐性提示的研究与防范。