本文介绍实用约束解码（结构化生成），通过有限状态机在推理时屏蔽非法token，强制LLM输出符合JSON、正则等格式。以outlines库为例，展示如何用Pydantic模型约束输出，保证语法正确、节省提示词token，并提升小模型可靠性。虽首次运行较慢，但整体高效，适合需严格格式的场景。

本研究提出了一种基于自适应加权拒绝采样的快速受控生成语言模型方法，解决了局部约束解码的高成本和全局字符串分布扭曲问题。该算法显著减少了约束评估次数，并提供低方差的无偏重要性权重估计，实验证明其在多种应用中优于现有方法，提高了速度和性能。

本文提出了一种基于词典的约束解码方法DECIDER，旨在通过特定目标概念控制生成文本的意义和风格。研究表明，该方法能有效引导生成结果，提升大型语言模型的决策性能。此外，介绍了选择性去偏差方法和成本敏感的推迟框架DeCCaF，以提高模型的预测性能和公平性，减少错误分类成本。

该论文介绍了一种名为SGCD的新型黑盒大型语言模型的约束解码方法，通过本地辅助模型改善输出并扩展约束解码的应用。实验证明了SGCD在封闭信息提取和组成解析等任务中的有效性，以及它增强黑盒大型语言模型在复杂自然语言处理任务中的效用和灵活性。