泄露！Apple Intelligence提示词原来是这样，还告诉大模型：别幻觉
内容提要
苹果的Apple Intelligence提示语简单明了，帮助用户处理邮件和生成回忆视频，还有关于总结信息和生成故事的指令。人们担心这些提示语是否能防止恶意攻击。
延伸解读
提示词泄露揭示苹果AI设计思路
泄露的提示词显示，Apple Intelligence 在邮件回复、照片回忆生成和短信总结等功能中，使用了相对简单的指令。例如，邮件回复要求不超过50字，短信总结限制在10词以内。这些提示词直接规定了输出格式和内容限制，反映出苹果在设备端AI上倾向于轻量级、规则明确的实现方式，而非依赖复杂的大模型。
防幻觉措施与潜在风险
苹果在提示词中明确要求AI“不要幻觉，不要捏造事实信息”，并设置了内容限制，如拒绝生成悲伤故事。然而，专家指出仅靠提示词难以有效防止幻觉，且可能无法抵御恶意攻击。Prompt injection攻击日益普遍，用户可能通过精心设计的输入绕过限制，导致错误信息或数据泄露。Apple Intelligence的实际防护效果仍需实践检验。
技术选择引发讨论
泄露信息显示，苹果使用JSON格式指定AI响应，而非GPT，这引发了网友惊讶。有人认为JSON不稳定，但回复指出这些模型在设备上运行，ChatGPT无法在设备端执行。这暗示苹果可能将GPT作为Siri无法处理任务时的备选方案，而设备端模型更注重效率和隐私。
Q&A
Apple Intelligence 的提示语有什么主要功能？
Apple Intelligence 的提示语帮助用户处理邮件、生成回忆视频、总结信息和生成故事。
Apple Intelligence 如何防止 AI 产生幻觉？
苹果设置了规则，要求 AI 不要幻觉和捏造事实信息，但效果尚不明确。
Apple Intelligence 在邮件处理上有哪些限制？
邮件处理的提示语规定了字数和内容限制，例如回复限制在 50 个字以内。
Apple Intelligence 如何生成故事？
生成故事时，要求包含视觉主题、章节结构和封面说明，并遵循特定的故事指南。
用户对 Apple Intelligence 选择 JSON 格式有什么看法？
用户对苹果未使用 GPT 而选择 JSON 格式表示惊讶，认为 JSON 不稳定。
专家对 Apple Intelligence 提示词的看法是什么？
专家担忧 Apple Intelligence 提示词的简单性，认为防止恶意攻击的效果存疑。
