发挥每一步的价值：基于 LLM 的高质量 RTL 代码生成使用 MCTS
内容提要
综述探讨大语言模型在硬件设计代码生成中的应用：RTLLM基准与self-planning提示提升GPT-3.5生成RTL性能；LLM4PLC利用用户反馈改善代码可验证性；PG-TD以规划算法引导生成更优程序；LLM生成RISC代码错误较多，需人工介入；L2MAC突破上下文窗口限制生成长代码；QLLM实现低精度量化；鉴别器引导MCTS控制长文本生成；7B模型优化LLVM汇编，指令计数减少3.0%。
延伸解读
LLM生成RTL代码的现状与挑战
文章综述了多项研究，显示大语言模型在生成RTL代码时仍存在显著错误，例如在RISC组件生成中，所有情况都需要人工介入修复。RTLLM基准和self-planning提示技术提升了GPT-3.5的性能，但LLM4PLC强调用户反馈和外部验证工具对改善可验证性的重要性。这些工作表明，当前LLM在硬件设计代码生成中主要起辅助作用，完全自动化尚不成熟。
规划与搜索算法提升生成质量
PG-TD利用规划算法进行预见性搜索，引导Transformer生成更优程序；鉴别器引导的MCTS解码方法则能在不微调模型的情况下控制长文本生成，并在英法两种语言中达到最先进效果。这些方法通过引入搜索机制，弥补了单纯自回归生成的不足，为生成高质量、符合约束的代码提供了新思路。
长代码生成与模型优化技术
L2MAC通过内存增强的存储程序自动计算机，突破了上下文窗口限制，能生成长且一致的代码。QLLM采用自适应通道重组实现低精度量化，在LLaMA-2上比先前最优方法平均准确率提高7.89%。这些技术从不同角度解决了LLM在硬件设计中的应用瓶颈，如长代码生成和计算资源受限问题。
LLM在代码优化中的潜力
一项研究训练了7B参数的Transformer模型来优化LLVM汇编的代码大小，通过预测优化前后的指令计数和优化后代码等辅助任务，显著提升了优化性能。在测试程序上，指令计数比编译器减少3.0%，且91%的代码可编译，70%能完美模拟编译器输出。这表明LLM在代码优化领域具有强大推理能力。
Q&A
RTLLM 基准是什么？它有什么作用？
RTLLM 是一个开源基准，用于生成具有自然语言指令的设计 RTL，并采用 self-planning 提示工程技术来提高 GPT-3.5 在该基准中的性能。
LLM4PLC 如何改善 LLM 生成代码的可验证性？
LLM4PLC 通过用户引导的迭代流程，利用用户反馈和外部验证工具来改善 LLM 生成代码的可验证性，提高成功生成的比例并提高代码质量。
PG-TD 算法有什么特点？
PG-TD 是一种新的 Transformer 解码算法，使用规划算法进行预见性搜索和引导 Transformer 生成更好的程序，可以生成具有更高性能的程序，提升了控制代码生成的能力，并设计了一种机制使算法具有计算效率。
使用 LLM 生成 RISC 代码的效果如何？
使用 LLM 生成 RISC 代码时，生成的代码都有显著的错误，总是需要人的介入来修复错误。因此，LLM 可以用于辅助程序员进行代码设计。
L2MAC 如何突破上下文窗口限制？
L2MAC 是一种内存增强的存储程序自动计算机，可以生成长且一致的代码，超越上下文窗口的限制，满足复杂的用户指定需求。
QLLM 在低精度量化方面取得了什么成果？
QLLM 通过自适应通道重组技术，提出了一种准确高效的低精度模型量化方法，实现了对大规模语言模型的低精度量化，并在 LLaMA-2 上相较于之前最先进的方法提高了 7.89% 的平均准确率。
鉴别器引导的 MCTS 如何控制长文本生成？
通过指导树遍历过程中使用鉴别器推导所需的限制条件，可以在解码过程中进一步控制基于 Transformers 的大型语言模型生成的长文本，从而避免对 LM 进行微调。此方法相对于微调更易于实现且训练代价更小，同时允许更细致、更动态地应用限制条件。基于鉴别器引导的 Monte Carlo Tree Search 解码方法可以在两种限制条件和语言（法语和英语）中以最先进的效果，得到多样性鼓励下基于重新排序的其他解码方法相当好的效果。
7B 模型在优化 LLVM 汇编方面表现如何？
该 7B 参数的变换器模型用于优化 LLVM 汇编的代码大小，以未优化的汇编作为输入，输出一系列最佳优化程序的编译器选项。在训练过程中，要求模型预测优化前后的指令计数和优化后的代码本身。这些辅助学习任务显著提高了模型的优化性能。在减少指令计数方面比编译器的效果提高了 3.0%，超过了需要数千次编译的两个最先进的基线。此外，91% 的代码可编译，70% 的时间能完美模拟编译器的输出。
