HADES：用于大型语言模型高效推测的硬件加速解码

本研究解决了当前大型语言模型（LLM）在性能和能效方面的重大挑战，提出了一种新的硬件加速解码方法（HADES）。通过在硬件层面支持推测解码，我们的工作显示，这种新方法能够显著提升LLM的运算效率，为更先进的实际应用铺平道路。