华为开源Omni-Infer项目，提供超大规模MoE推理架构、技术和代码，旨在加速AI推理。该项目支持PD分离部署，优化硬件使用，兼容主流推理框架，降低软件维护成本，推动开源生态发展。

Apache TVM是一个支持CPU和GPU等加速芯片的深度学习编译框架。本文介绍如何在TVM中编写自定义IR转换pass，以满足专用硬件的需求，包含向量加法示例及IR节点的分析与转换方法。

本研究提出了一种低功耗流式语音增强加速器，通过模型压缩和硬件优化，模型大小减少93.9%，实时推理功耗仅为8.08毫瓦，显著提升了效率和可用性。

本研究通过优化硬件模块和提出双步卷积方法，解决了图卷积神经网络在FPGA实现中的可扩展性问题，显著降低了查找表(LUT)的使用量，提高了GCNN的可扩展性。

为了在TPC-C标准测试中实现GBase 8c的最佳性能，需要注意硬件、操作系统、网络中断和数据库参数的优化。登录到部署数据库的机器上，了解CPU、内存、磁盘类型和网络状态。确保每个CPU使用来自自己NUMA节点的内存，避免跨内存访问问题。适当增加限制以处理大量并发连接和进程。

ARCO是一个基于多智能体强化学习的自适应协同编译框架，提高了机器学习模型在不同硬件平台上的效率。通过整合硬件和软件优化智能体，ARCO框架提高了深度神经网络部署的精度和速度。在各种DNNs中，ARCO框架实现了最高37.95%的吞吐量增加，并将优化时间降低了最高42.2%。

本研究利用事件相机解决传统视频系统限制，通过图卷积网络 (GCN) 的运用保证处理事件系统所需的吞吐量和延迟性。同时，解决了硬件模型的可扩展性问题。这是首次在SoC FPGA上加速PointNet++网络，也是首次针对实时连续事件数据处理进行图卷积网络实现的硬件架构研究。

这篇文章总结了关于TiDB数据库性能优化的方法，包括硬件和网络优化、SQL优化、查询优化、统计信息优化、数据库应用优化和TiDB集群优化等。方法涵盖了硬件优化、索引优化、查询语句优化、缓存技术、分表策略、批量操作和参数调整。文章还提到了dstat、EXPLAIN、TiDB Dashboard和Grafana等工具和技术。

这篇文章总结了关于TiDB数据库性能优化的方法，包括硬件和网络优化、SQL优化、查询优化、统计信息优化、数据库应用优化和TiDB集群优化等方面。文章提供了具体的优化方法和建议，为读者提供有价值的信息和经验。

本研究介绍了Sequoia算法，用于加速大型语言模型的推理。通过动态规划算法找到最佳树结构，采样和验证方法实现鲁棒的推测性能，通过自动选择硬件平台的标记树大小和深度来优化硬件感知的树优化器。在A100上，解码速度提高了4.04倍、3.84倍和2.37倍，并在L40上将卸载速度提高了10.33倍。

本文提出了一种针对卷积神经网络的硬件优化方案，通过特定优化法提高性能，减少内存占用和外部内存访问需求，缓解CPU压力，提升处理速度。

本文介绍了一个硬件优化的数据流架构，用于将计算图形的高阶梯度转化为硬件优化。该架构通过设计一个使用FIFO流和优化计算内核库的数据流架构，并提出一个编译器来提取和优化计算图形，以实现最大吞吐量，同时确保无死锁操作，并输出FPGA实现的高级综合（HLS）代码。实验结果显示，该架构实现了1.8-4.8倍和1.5-3.6倍的加速比，以及较低的内存使用率和能耗延迟乘积。