规范工程正取代提示工程成为AI应用的关键技能。提示工程仅关注提问方式，而规范工程定义任务目标、约束、输出格式、评估标准和边界情况，确保AI输出可验证、可测试。随着AI从聊天转向编码和自主工作流，清晰规范比优化提示更重要，能减少规范博弈风险，提升结果可靠性。

本研究探讨大型语言模型（LLM）输出的可靠性，提出了一种公式，阐明了注意力分散到极限时可能出现的“杰基尔与海德”临界点。这一公式有助于政策制定者和公众理解人工智能的应用与风险。

本研究针对黑箱大语言模型（LLMs）输出可靠性评估的挑战，全面调查了校准技术，揭示了校准过程中的独特挑战，并探讨了未来的研究方向。

本研究探讨了大型语言模型（LLM）自信度的校准问题，提出多种方法改善模型对输出可信度的评估。研究表明，用户对模型可信度的感知受解释方式影响，透明的可信度传达在高风险应用中尤为重要。引入新的评估框架和学习方法后，模型的过度自信得以降低，输出的可靠性和准确性得到提升。