如何让 Llama2、通义千问开源大语言模型快速跑在函数计算上?
随着ChatGPT 以及 Stable Diffusion,Midjourney 这些新生代 AIGC 应用的兴起,围绕AIGC应用的相关开发变得越来越广泛,有呈井喷之势,从长远看这波应用的爆发不仅仅是停留在形式之上,更是在各个领域产生实际的生产力价值。
本文介绍了AIGC应用的兴起和市场机会,以及开发AIGC应用的挑战。函数计算作为解决方案的三个部分:模型服务底座、业务连接层和客户端侧。分享了如何通过函数计算快速部署AIGC相关模型服务,包括LLM模型和Embedding(Bert)模型。