大模型时代的芯片机遇与未来 | 知乎AI先行者沙龙

行云集成电路创始人季宇在知乎AI先行者沙龙分享了对大模型和芯片行业的思考。

大模型商业化面临高边际成本问题，而芯片行业的Scaling技能可以解决这一问题。

芯片行业的发展将使大模型的内存和互联变得更便宜，支持更高质量的Token服务。

大模型商业化将改变成本模型，使其能够在端侧低成本运行，实现更好的用户体验。

大模型的商业落地与互联网业务相比，边际成本仍然非常高。

芯片行业的Scaling技能强大，摩尔定律为其提供了经济性方案。

未来芯片行业将降低大模型Scaling所需的资源，提升内存和互联的设计空间。

大模型对芯片的主要需求已转向内存和互联，需高带宽内存支撑服务。

内存和互联的标准化竞争为中国AI芯片行业提供了商业化机会。

未来大模型商业探索将分化为质量优先和成本优先两派。

随着芯片行业的发展，未来将不再需要小模型，大模型的高质量Token将变得便宜。

大模型的成本模型将改变商业形态，未来用户可在端侧低成本运行高质量大模型。

芯片行业的Scaling将推动大模型走进千行百业，创造更有竞争力的芯片产品。