云学堂：业务代码能力提升 44%，基于 Amazon SageMaker 大模型微调赋能代码生成的创新实践
原文中文，约4400字，阅读约需11分钟。
📝
内容提要
云学堂利用Amazon SageMaker平台成功开发出性能卓越的业务代码生成模型，通过数据准备、训练技术和模型评估，实现了业务场景下的显著提升。
❓
Q&A
云学堂如何提升业务代码生成能力？
云学堂通过利用Amazon SageMaker平台，结合AST技术和大语言模型，成功开发了DeepSeek-Coder代码生成模型，提升了业务代码生成能力。
Amazon SageMaker在云学堂的项目中起到了什么作用？
Amazon SageMaker提供了构建、训练和部署机器学习模型的全方位服务，帮助云学堂快速开发和优化代码生成模型。
云学堂的DeepSeek-Coder模型在评估中表现如何？
DeepSeek-Coder模型在业务FIM能力上提升了44%，CodeBleu得分从38.96提升至56.07，显示出显著的性能提升。
云学堂是如何准备训练数据的？
云学堂使用AST技术提取业务代码，构建了包含海量Java代码的数据集，确保模型理解代码和自然语言的对应关系。
微调阶段使用了哪些技术来提升模型性能？
微调阶段使用了DeepSeek Coder 6.7B作为基座模型，并结合了PiSSA、LoRA等多种技术来提升模型性能。
云学堂未来的计划是什么？
云学堂计划继续探索AI技术在企业数字化领域的应用，推动代码生成和其他相关技术的发展。
🏷️
