昨天看到周舒畅老师的AI短剧 论视觉大模型 VLM 的轻量化，以讲相声的形式来表现，觉得很有意思，如果加上声音，就真的是一个技术领域的搞笑相声了。刚

本研究提出了P-MOSS框架，以解决NUMA服务器上数据库管理系统的性能波动问题。通过结合低级硬件统计与决策变换器，P-MOSS实现了查询执行的空间调度和数据优化存放，查询吞吐量提升可达6倍。

MOSS是复旦大学邱锡鹏团队开源的对话语言模型，参数量为160亿，包括基座模型、微调模型和插件增强模型。MOSS还有量化版本，占用显存较少。baichuan-7B是百川智能开发的开源预训练语言模型，基于Transformer结构，训练数据量为1.2万亿，上下文窗口长度为4096。baichuan-7B在分词和数据集方面进行了优化，采用了多种方法提升模型效果和训练吞吐。

本文介绍了两个国产开源LLM的本地部署，ChatGLM-6B和MOSS。MOSS对显存要求高，推理速度慢，需要使用量化模型和多卡加速。模型采用GNU AFFERO GENERAL PUBLIC LICENSE许可证，可以免费商用。

上周，复旦大学邱锡鹏教授团队推出了国内版的ChatGPT——MOSS，但由于访问量太大，暂时关闭，预计3月底开源。MOSS可以进行多轮交互，还可以生成表格、生成代码等，但中文水平不够高，清洗难度大。

上海复旦大学率先推出国内版ChatGPT模型MOSS，MOSS团队规模小，但却成为国内首家。MOSS主要是想在百亿规模参数上探索和验证ChatGPT的技术路线，但由于访问量太大服务器承受不了而停机，MOSS的中文水平不够高，主要是互联网上的中文网页干扰信息太多，清洗难度大。