本研究提出了一种基于注意力机制的深度偏置方法，通过上下文嵌入改善语音识别模型的单词错误率（WER）。引入上下文拼写纠错模型和轻量级字符表示，显著提高了识别速度和准确性。实验结果表明，该方法在不同数据集上均实现了显著的WER改善，尤其在稀有词汇识别中表现突出。