作者在Windows上使用RX 6650 XT显卡自编译ROCm和PyTorch进行深度学习。尽管torch.cuda.is_available()返回True，但GPU加速效果不佳，仅为1.7-2.0倍。主要原因包括自回归解码效率低、小模型在内存访问上的瓶颈，以及未启用高性能路径。建议进一步研究以优化性能。