LLM探索:GPT类模型的几个常用参数 Top-k, Top-p, Temperature

💡 原文中文,约3000字,阅读约需7分钟。
📝

内容提要

本文介绍了使用ChatGPT接口或本地部署LLM大模型时常用的三个参数:temperature、top_k和top_p,它们可以影响模型输出的随机性和候选词选择。同时提供了调参建议和注意事项。

🏷️

标签

➡️

继续阅读