大语言模型137个涌现特征列表 — Jason Wei

本文介绍了大型语言模型的涌现能力，即“不存在于小模型中但存在于大模型中”的能力。已发现100多个涌现能力的例子，其中少量提示任务的性能对于小模型是随机的，对于大模型是随机的。涌现提示任务专注于特定数据集，而涌现的第二类是小样本提示策略，这是仅适用于足够大规模的语言模型的通用提示策略。