本次比赛旨在设计软切片调度算法，以优化调度顺序，满足带宽和时延约束，最小化最大调度等待时延。参赛对象为学生和开发者，报名时间为1月15日至4月15日。

华为云EMS团队的论文《Cost-Efficient Large Language Model Serving for Multi-turn Conversations with CachedAttention》被USENIX ATC 2024收录。该论文提出了全球首个面向大模型推理的多级KV Cache缓存系统，通过CachedAttention降低了大模型推理的87%时延。华为云发布了EMS弹性内存存储服务，实现了“显存扩展”、“算力卸载”、“以存代算”等功能，构建AI Native的基础设施。

本文研究了细胞V2X通信中的资源分配与传输模式选择，提出了一种基于深度强化学习的去中心化算法和车辆聚类算法。实验结果表明，该算法在性能上优于其他基线方法，有效提高了信息更新的及时性并降低了通信成本。

本文研究了曼哈顿网格中基于信息年龄感知的车辆间通信网络的无线电资源管理，提出了一种去中心化的策略，利用深度强化学习显著提高性能。同时，探讨了无人机与可重构智能表面在物联网中的应用，优化信息时效，并提出了多目标强化学习解决方案以提升路径规划和通信效率。

利用前馈神经网络开发了一种名为 NeuraLunaDTNet 的新型协议，通过学习动态变化的时空图中的联系计划，提高了 PRoPHET 路由协议在月球通信中的效率。

本文探讨了深度强化学习和图神经网络在自动驾驶中的应用，提出多种模型以解决复杂交通场景下的决策问题。这些方法在避免事故、提高合流效率和优化驾驶策略方面表现优异，显著提升了自动驾驶车辆的安全性和性能。

本文强调了选择正确的LLM推理栈的重要性，以及如何选择适合任务的模型和推理代码。作者提出了改善性能的技巧，如分组查询注意力、量化、分页注意力、滑动窗口注意力和连续批处理。还讨论了吞吐量、时延和成本，并提到了开源部署解决方案。最后，作者回答了听众提出的问题。

同时翻译是一种在输入语音片段结束之前开始的任务。我们提出了一种用于同时翻译的新颖延迟评估指标 —— 平均令牌延迟 (ATD)，该指标侧重于部分翻译的持续时间。通过基于耳 - 声跨度 (EVS) 进行用户端延迟模拟的分析，我们证明了该指标的有效性。在我们的实验中，ATD 与 EVS 在大多数条件下具有最高的相关性。

华为云GeminiDB（原GaussDB NoSQL）优化了KV存储的长尾时延问题，兼容Redis 5.0协议。提出两种解决方案：优化fork操作减少性能抖动，以及采用PMem存储介质的存算分离架构消除fork带来的时延。GeminiDB采用RocksDB+分布式文件系统+高性能存储池，提高了性能和可靠性，预计年底单片性能达百万QPS。

该研究优化了云无线电接入网络中远程无线电头的模拟和数字部分，使用加权下行总速率和网络能源效率最大化的目标进行联合优化，并提出了块协调下降算法。同时，研究了不完美信道状态信息对性能的影响，并应用采样平均近似扩展算法。数值结果证实了所提出方案的有效性，表明所提出的算法对估计误差具有鲁棒性。

本文介绍了如何选择适合的存储介质，包括磁盘、吞吐量、IOPS和时延等指标。阿里云存储产品的底层原理和存储类型的区别，以及不同协议的介绍。

阿里云机器学习平台PAI团队和达摩院智能计算实验室图计算团队共建的工业界大规模图神经网络训练框架GraphLearn最新开源了面向动态图的GNN在线推理实时采样服务(DGS)，该服务具备处理实时高吞吐图更新的能力，并能保证低时延、高并发的推理采样查询处理。

网络和移动设备高速发展的今天，人们开始思考如何用更短的时间下载更大的文件，追求更快的速度。当下在稳定的基础上有什么方法可以提升速度呢？

背景 最近网络上有一则新闻引发了讨论：华为战略部总裁张文林：实验室内可做到2千公里0.1毫秒时延 满足车联网精确需要。 主要原因是根据标题中的描述，这种通讯方式达到了「2千公里0.1毫秒时延」。这个描述引发了两种争论： 这种通讯方式的传输速度为...