每日AI资讯-20240613
内容提要
研究人员测试了GPT-4o的安全性，发现其新引入的音频模态增加了攻击面，整体安全性弱于GPT-4V。微软宣布Copilot GPTs将于7月10日停服，因缺乏商业回报引发用户不满。Stable Diffusion 3即将开源，美图推出AI短片创作工具MOKI，支持自动生成视频素材。
延伸解读
音频模态引入新攻击面
研究人员通过上万次API查询测试发现，GPT-4o新引入的音频模态为越狱攻击暴露了新的攻击面。虽然文本模态的安全性有所提升，但文本越狱攻击可迁移性强，可通过多模态形式攻击。整体多模态安全性弱于GPT-4V，表明新功能可能带来额外风险。
Copilot GPTs停服的战略调整
微软宣布Copilot GPTs将于7月10日停服，用户创建的GPTs将被清空。官方解释为战略调整，将重点转向商业和企业场景，背后原因可能是缺乏商业回报。此举引发用户不满，批评者质疑会切断创新并削减消费者信任。该功能仅存活3个月。
Stable Diffusion 3开源在即
Stable Diffusion 3预计近日开源，两个月前发布时即在人类偏好评估中击败DALL-E 3和Midjourney v6，成为该领域SOTA。ComfyUI已提交支持版本，开源后可能推动图像生成领域进一步发展。
美图MOKI：AI短片创作新工具
美图推出AI短片创作工具MOKI，与常规文生视频产品不同，它强调内容和成本的双重可控。用户完成脚本、视觉风格、角色等前期设定后，AI自动生成分镜图并转为视频素材，再通过智能剪辑、AI配乐、音效、自动字幕等功能串联成片。该产品将于2024年7月31日开放试用。
Q&A
GPT-4o的安全性测试结果如何？
研究发现，GPT-4o的新音频模态增加了攻击面，整体安全性弱于GPT-4V，但对文本越狱攻击的安全性有所提升。
微软为什么要停服Copilot GPTs？
微软宣布Copilot GPTs将于7月10日停服，原因是缺乏商业回报，且公司战略调整将重点转向商业和企业场景。
Stable Diffusion 3的开源时间是什么时候？
Stable Diffusion 3预计将在近日开源，成为该领域的最新SOTA。
美图的AI短片创作工具MOKI有什么特点？
MOKI支持自动生成视频素材，能够在脚本、视觉风格等设定后，通过智能剪辑等功能实现成片。
GPT-4o的文本模态越狱攻击有什么特点？
GPT-4o的文本模态越狱攻击可迁移性强，尽管其安全性有所提升，但仍然容易受到多模态攻击。
用户对Copilot GPTs停服的反应如何？
用户对Copilot GPTs停服表示不满，批评此举可能会切断创新并削减消费者对产品的信任。
