知乎每日精选
·
大模型时代的芯片机遇与未来 | 知乎AI先行者沙龙
💡
原文中文，约4000字，阅读约需10分钟。
📝
内容提要
行云集成电路创始人季宇在知乎AI先行者沙龙活动上分享了对大模型和芯片行业的思考。大模型商业化面临高边际成本问题，而芯片行业的Scaling技能可以解决这个问题。芯片行业的发展将使大模型的内存和互联变得更便宜，支持更高质量的Token服务。芯片行业的发展也将带来大模型商业化的机会，解决产品定义和供应链问题。大模型的商业化将改变成本模型，使大模型能够在端侧低成本运行，实现更好的体验。
🎯
关键要点
- 行云集成电路创始人季宇在知乎AI先行者沙龙分享了对大模型和芯片行业的思考。
- 大模型商业化面临高边际成本问题，而芯片行业的Scaling技能可以解决这一问题。
- 芯片行业的发展将使大模型的内存和互联变得更便宜，支持更高质量的Token服务。
- 大模型商业化将改变成本模型，使其能够在端侧低成本运行，实现更好的用户体验。
- 大模型的商业落地与互联网业务相比，边际成本仍然非常高。
- 芯片行业的Scaling技能强大，摩尔定律为其提供了经济性方案。
- 未来芯片行业将降低大模型Scaling所需的资源，提升内存和互联的设计空间。
- 大模型对芯片的主要需求已转向内存和互联，需高带宽内存支撑服务。
- 内存和互联的标准化竞争为中国AI芯片行业提供了商业化机会。
- 未来大模型商业探索将分化为质量优先和成本优先两派。
- 随着芯片行业的发展，未来将不再需要小模型，大模型的高质量Token将变得便宜。
- 大模型的成本模型将改变商业形态，未来用户可在端侧低成本运行高质量大模型。
- 芯片行业的Scaling将推动大模型走进千行百业，创造更有竞争力的芯片产品。
➡️
