大模型时代的芯片机遇与未来 | 知乎AI先行者沙龙
原文中文，约4000字，阅读约需10分钟。
📝
内容提要
行云集成电路创始人季宇在知乎AI先行者沙龙活动上分享了对大模型和芯片行业的思考。大模型商业化面临高边际成本问题，而芯片行业的Scaling技能可以解决这个问题。芯片行业的发展将使大模型的内存和互联变得更便宜，支持更高质量的Token服务。芯片行业的发展也将带来大模型商业化的机会，解决产品定义和供应链问题。大模型的商业化将改变成本模型，使大模型能够在端侧低成本运行，实现更好的体验。
❓
Q&A
大模型商业化面临哪些主要挑战？
大模型商业化面临高边际成本问题，增加用户时基础设施成本显著上升，且模型质量和上下文长度的提升可能进一步增加成本。
芯片行业如何支持大模型的发展？
芯片行业的发展将降低大模型所需的内存和互联成本，支持更高质量的Token服务，并解决产品定义和供应链问题。
未来大模型的商业探索将如何分化？
未来大模型的商业探索将分化为质量优先和成本优先两派，分别寻求高质量通用大模型和低成本硬件的解决方案。
摩尔定律对芯片行业的影响是什么？
摩尔定律推动了芯片行业的Scaling，使得芯片资源逐渐降低，支持大模型的内存和互联需求。
大模型对芯片的主要需求是什么？
大模型对芯片的主要需求已转向内存和互联，需要高带宽内存支撑服务。
未来大模型的成本模型将如何改变商业形态？
未来大模型的成本模型将导致商业形态的变革，用户可在端侧低成本运行高质量大模型，减少对云端服务的依赖。
🏷️
