3分钟搞懂大模型的训练过程
原文中文，约2600字，阅读约需7分钟。
📝
内容提要
大模型（如chatGPT）的训练是通过自监督学习进行的，自监督学习是一种无监督学习方式，通过伪标签进行训练。常见的自监督学习任务有掩码语言模型和因果语言模型。因果语言模型通过预测下一个词来学习文本的顺序结构和语言生成过程。通过自监督学习，模型可以学习到自然语言的结构和句式。
🔎
延伸解读
自监督学习：无需人工标注的奥秘
文章指出，大模型训练采用自监督学习，无需人工标注标签。这是因为互联网文本数据量巨大，人工标注成本极高，且长文本难以标注。自监督学习通过从输入数据本身生成伪标签进行训练，伪标签由模型根据规则自动生成，属于无监督学习的一种特殊方式。
两种常见自监督任务：MLM与CLM
掩码语言模型（MLM）和因果语言模型（CLM）是两种常见的自监督学习任务。MLM用于BERT等模型，通过随机掩码部分输入词并预测这些词，学习词与上下文关系，类似完形填空。CLM用于GPT系列，通过预测下一个词学习文本顺序结构和生成过程。
因果语言模型训练：预测下一个词
以因果语言模型为例，训练时模型根据输入序列预测下一个词，并将预测结果加入输入继续预测，反复迭代。目标序列是输入序列向右移动一个位置的结果，作为伪标签。模型输出与目标序列比较计算损失，通过反向传播更新参数，从而学习自然语言结构。
❓
Q&A
大模型的训练是通过什么方式进行的？
大模型的训练主要通过自监督学习进行，无需人工标注的标签。
自监督学习的伪标签是如何生成的？
自监督学习的伪标签是由模型根据一定规则自动生成的，而不是人工标注的。
掩码语言模型和因果语言模型有什么区别？
掩码语言模型通过预测被掩码的词来学习上下文关系，而因果语言模型通过预测下一个词来学习文本的顺序结构。
因果语言模型的训练过程是怎样的？
因果语言模型通过输入词预测下一个词，并不断迭代更新输入，直到完成训练。
在训练过程中如何计算损失？
损失通过比较模型的输出与目标序列（伪标签）计算得出。
大模型训练中使用的数据来源是什么？
大模型训练的数据样本主要来自互联网，通常不需要人工标注。
🏷️
