Roll the Dice and Look Before You Leap: Going Beyond the Creative Limits of Next-Token Prediction

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究设计了一系列最小化算法任务,以量化现有语言模型的创造性极限。研究发现,输入层注入噪声比输出层的温度采样更能激发随机性,从而提升模型的多样性和创造性,为分析开放式创造性技能提供了新的理论框架。

🏷️

标签

➡️

继续阅读