记忆张量与商汤大装置联合推出的国产GPGPU推理集群，性价比超越NVIDIA A100，提升了吞吐量和并发能力。通过“记忆—计算—调度”一体化设计，突破了传统性能限制，推动了大模型的商业化进程，标志着国产算力体系的重大进步。

以往通过Java访问GPU计算性能面临挑战，主要由于JNI的限制导致数据复制和缺乏工具来提取兼容内核代码。为了解决Java中的数据并行问题，开发者需要在Java中表达多内核算法并高效交换数据。本文介绍了HAT（异构加速器工具包），展示其如何利用Java的新特性（Panama和Babylon）来释放GPU的潜力。

本研究提出了一种虚拟机，解决了低精度计算方法对非二进制权重位宽的支持问题，显著提升了大语言模型（LLM）服务的性能。该虚拟机能够处理任意位宽的低精度数据类型，实验结果表明其性能优于现有低精度内核，推动了LLM应用的可行性。

该文介绍了一种加快 DSE 过程的方法，通过识别最合适的 GPGPU 用于 CNN 推理系统。作者开发了一种快速而精确的技术来预测 CNN 推理过程中的功耗和性能，MAPE 分别为 5.03％和 5.94％。这种方法可以在开发初期估计功耗和性能，减少了大量原型的必要性，节省了时间和金钱，同时也改善了上市时间。

本文介绍了一种通过识别最合适的GPGPU来加快CNN推理系统的DSE过程的方法。作者开发了一种快速而精确的技术来预测CNN推理过程中的功耗和性能，MAPE分别为5.03％和5.94％。这种方法使计算机架构师能够在开发初期估计功耗和性能，减少了大量原型的必要性，节省了时间和金钱，同时也改善了上市时间。

1. Introduction 本文说明了使用gpgpusim做实验需要注意的问题以及做出的修改。 强烈不推荐使用gpgpusim做实验。 如果是改SASS，建议maxas或者asfermi（尽管他们可能会有这样那样的问题，而且使用起来难度不小）。使用模拟器，是被reviewer攻击的常用点，除非你有足够强有力的解释，否则这会成为你论文的掣肘。 使用模拟器发的A，一般工作量会很多。