苹果AI版iOS首日火爆:聊天秒变高情商,大模型成最强嘴替,Siri华丽变身
内容提要
苹果AI版iOS首日火爆,Siri变身Apple Intelligence & Siri,大模型技术报告出炉。苹果自研的大模型在指令遵循、文本总结等任务上超过GPT-4。苹果基础大模型团队负责人庞若鸣表示,模型具有竞争力。苹果还研发了自研算法,提高模型表现。苹果大模型的训练用的是谷歌TPU集群。苹果AI的功能主要围绕文本生成、Siri和相册。苹果大模型的训练通过自家基于JAX的AXLearn框架进行。苹果对AFM的端侧版本进行了量化操作。苹果大模型在多个任务上超越GPT-4。苹果通过人工方式评估了AFM的抵御对抗性攻击的能力。
延伸解读
体验门槛与地区限制
Apple Intelligence目前仅面向注册开发者提供,且需支付99美元年费。设备方面,仅支持搭载M系列或A17 Pro芯片的iPhone,即iPhone 15 Pro和15 Pro Max。此外,用户需将设备地区和Siri语言设置为美国英语,并加入等待队列。这些条件限制了普通用户的即时体验,也反映出苹果在AI功能推送上的谨慎态度。
自研模型的技术亮点
苹果基础模型(AFM)分为端侧和云侧两个版本,端侧约3B参数,云侧更大,均支持32k上下文窗口。训练完全基于谷歌TPU集群,未使用英伟达硬件。后训练阶段,苹果自创了iTeC和MDLOO两种强化学习算法,以提升模型性能。端侧模型还采用了混合精度量化,通过“调色板”策略和准确性恢复适配器,在压缩模型的同时保持输出质量。
性能表现与安全评估
在指令遵循任务上,云侧AFM在IFEval测试中超越了GPT-4,成为新的SOTA。端侧模型也优于同规模的Llama 3-8B和Mistral-7B。在写作总结任务中,AFM取得SOTA,数学任务上则表现不一。安全性方面,人工评估显示AFM在对抗性提示下的违反率显著低于其他开源和商业模型,体现了苹果对模型安全性的重视。
正式版上线或延迟
尽管开发者已可测试Apple Intelligence的部分功能,但彭博社爆料称正式版可能延迟。按照苹果版本发布规律,18.1版本号意味着这些功能不会随9月新机一同上线。分析师Gene Munster建议苹果推迟iPhone 16的发布日期,以与Apple Intelligence保持一致。目前,ChatGPT集成也未在此次更新中接入,用户需等待后续版本。
Q&A
苹果的Apple Intelligence有哪些主要功能?
Apple Intelligence的主要功能包括文本生成、Siri和相册的更新。
苹果自研的大模型在性能上与GPT-4相比如何?
苹果自研的大模型在指令遵循和文本总结等任务上超过了GPT-4。
用户如何才能体验Apple Intelligence?
用户需满足特定条件,包括使用iOS 18.1 Beta版、M系列或A17 Pro芯片,并将地区设置为美国。
苹果大模型的训练使用了哪些硬件?
苹果大模型的训练使用了谷歌TPU集群,英伟达硬件含量为零。
Apple Intelligence的Siri有哪些新特性?
新版Siri支持文本对话,能够理解上下文,并解答与苹果产品相关的问题。
苹果大模型的后训练过程包括哪些步骤?
后训练过程包括指导监督微调和人类反馈强化学习等步骤。