Foundation Models:苹果设备端模型的边界探索

WWDC 2025 上,苹果公布了设备端的 Foundation Models 框架,可以让开发者们使用离线模型完成一些基本的 AI 任务。虽然各个 session 已经详细介绍了基本用法,但作为开发者,我们更关心的往往是:这个框架的边界在哪里?什么情况下会出现问题?实际性能如何? 经过近一周的测试和探索,我有了一些有趣的发现。这些发现可能对你在实际项目中使用 Foundation...

苹果在WWDC 2025上推出了Foundation Models框架,支持开发者使用离线模型进行AI任务。测试显示框架稳定,但存在内存消耗、上下文窗口限制(4096 tokens)和并发性能下降等问题。开发者应围绕这些限制设计应用,并优先考虑Tool Calling功能。总体而言,Foundation Models为iOS应用提供了强大的AI能力,但需理解其局限性。

原文中文,约5700字,阅读约需14分钟。发表于:
阅读原文