在 Amazon SageMaker 上使用 OpenChatkit 模型构建自定义聊天机器人应用程序
原文中文,约11700字,阅读约需28分钟。发表于: 。在这篇文章中,我们将展示如何使用 DJL Serving 以及 DeepSpeed 和 Hugging Face Accelerate 等开源模型并行库,在 Amazon SageMaker 上部署 OpenChatKit 模型(GPT-NeXT-Chat-Base-20B 和 GPT-JT-Moderation-6B 模型)。
本文介绍了如何在Amazon SageMaker上部署OpenChatKit模型来构建聊天机器人应用程序,同时介绍了AWS的SageMaker工程师Andrew Smith的背景和专业知识。