本文讨论了大模型输出的两个重要超参数:温度(Temperature)和核采样(Top-p)。温度控制输出的随机性,低温度使输出更确定,高温度增加多样性。核采样通过动态截断低概率词来调整候选词范围。建议在需要确定性时使用低温度和低Top-p,而在追求创意时使用高温度和高Top-p。默认配置为温度0.7和Top-p 0.9,适合大多数场景。
完成下面两步后,将自动完成登录并继续当前操作。