七月论文审稿GPT第2.5和第3版：分别微调GPT3.5、Llama2 13B以扩大对GPT4的优势
内容提要
自去年7月份成立大模型项目团队以来，已有5个项目组，其中AIGC模特生成系统已上线，论文审稿GPT将在今年3 4月份发布，RAG知识库问答第1版已就绪。微调GPT3.5 Tubor 16K正在进行，微调费用为13635元。微调13B模型首选Llama-2-13b-chat-hf。
延伸解读
微调GPT-3.5的成本与数据策略
文章详细计算了微调GPT-3.5 Turbo 16K的费用：使用15566条paper-review数据，token总量约1.19亿，按2个epoch和OpenAI定价，预计花费13635元。为降低数据泄露风险，团队先以1/3数据试跑，若效果不及开源模型再上全量。这种分步策略平衡了成本与风险，值得类似项目参考。
长上下文微调的技术门槛
此前ChatGPT微调接口仅支持4K上下文，难以处理长论文，直到2023年11月OpenAI开放16K微调接口，团队才得以尝试。这反映了长文本任务对模型上下文长度的依赖，也说明微调并非万能，需关注接口限制。对于学术审稿等长文本场景，16K仍是基础要求。
开源模型微调的硬件需求
对于13B模型，团队首选Llama-2-13b-chat-hf，并指出其对显卡的要求：双48G或单卡80G，双A40配合LongQLoRA也可行。这提示读者，微调中等规模开源模型需要较高硬件投入，需提前规划计算资源。
Q&A
论文审稿GPT第2.5版主要做了哪些微调工作？
论文审稿GPT第2.5版主要进行了两项微调：一是微调GPT3.5 Turbo 16K，二是微调Llama2 13B模型。
微调GPT3.5 Turbo 16K的费用是多少？
全量样本训练阶段预计花费13635元，计算方式为：118689950个token × 2个epoch × 0.008 × 汇率7.18。
微调GPT3.5时使用了多少数据？
使用了15566条paper-review数据集，token数量为118689950。
微调13B模型首选哪个模型？对显卡有什么要求？
首选Llama-2-13b-chat-hf，对显卡的要求是双48g的卡或者单卡80g。
论文审稿GPT第二版的效果如何？
论文审稿GPT第二版的效果超过了GPT4。
论文审稿GPT预计什么时候上线？
论文审稿GPT将在今年3、4月份对外上线发布。
