本次比赛旨在设计软切片调度算法，以优化调度顺序，满足带宽和时延约束，最小化最大调度等待时延。参赛对象为学生和开发者，报名时间为1月15日至4月15日。

华为云EMS团队的论文《Cost-Efficient Large Language Model Serving for Multi-turn Conversations with CachedAttention》被USENIX ATC 2024收录。该论文提出了全球首个面向大模型推理的多级KV Cache缓存系统，通过CachedAttention降低了大模型推理的87%时延。华为云发布了EMS弹性内存存储服务，实现了“显存扩展”、“算力卸载”、“以存代算”等功能，构建AI Native的基础设施。

自动驾驶是下一代重要应用场景，无线接入技术对车辆通信至关重要。研究者提出了一种利用深度强化学习算法来优化能量消耗和信息时代的方法，并通过模拟实验证明了其性能。

提出了一种基于可重构智能表面的车联网网络方案，通过优化车辆与基础设施之间的时效和车辆之间的稳定性，使用演员-评论家算法控制车辆的资源分配和相移控制。仿真结果表明该算法在多个方面胜过其他算法。

利用前馈神经网络开发了一种名为 NeuraLunaDTNet 的新型协议，通过学习动态变化的时空图中的联系计划，提高了 PRoPHET 路由协议在月球通信中的效率。

本研究介绍了一种解决自主加入匝道问题的新方法，通过引入L3IS代理，能够在没有全面知识的情况下安全地执行匝道合流任务。该方法通过建模环境的隐含状态，增强了代理适应动态交通状况和与其他车辆的安全交互能力。通过模拟和性能比较证明了该方法的有效性。

本文强调了选择正确的LLM推理栈的重要性，以及如何选择适合任务的模型和推理代码。作者提出了改善性能的技巧，如分组查询注意力、量化、分页注意力、滑动窗口注意力和连续批处理。还讨论了吞吐量、时延和成本，并提到了开源部署解决方案。最后，作者回答了听众提出的问题。

同时翻译是一种在输入语音片段结束之前开始的任务。我们提出了一种用于同时翻译的新颖延迟评估指标 —— 平均令牌延迟 (ATD)，该指标侧重于部分翻译的持续时间。通过基于耳 - 声跨度 (EVS) 进行用户端延迟模拟的分析，我们证明了该指标的有效性。在我们的实验中，ATD 与 EVS 在大多数条件下具有最高的相关性。

华为云GeminiDB（原GaussDB NoSQL）优化了KV存储的长尾时延问题，兼容Redis 5.0协议。提出两种解决方案：优化fork操作减少性能抖动，以及采用PMem存储介质的存算分离架构消除fork带来的时延。GeminiDB采用RocksDB+分布式文件系统+高性能存储池，提高了性能和可靠性，预计年底单片性能达百万QPS。

该研究优化了云无线电接入网络中远程无线电头的模拟和数字部分，使用加权下行总速率和网络能源效率最大化的目标进行联合优化，并提出了块协调下降算法。同时，研究了不完美信道状态信息对性能的影响，并应用采样平均近似扩展算法。数值结果证实了所提出方案的有效性，表明所提出的算法对估计误差具有鲁棒性。

本文介绍了如何选择适合的存储介质，包括磁盘、吞吐量、IOPS和时延等指标。阿里云存储产品的底层原理和存储类型的区别，以及不同协议的介绍。

阿里云机器学习平台PAI团队和达摩院智能计算实验室图计算团队共建的工业界大规模图神经网络训练框架GraphLearn最新开源了面向动态图的GNN在线推理实时采样服务(DGS)，该服务具备处理实时高吞吐图更新的能力，并能保证低时延、高并发的推理采样查询处理。

网络和移动设备高速发展的今天，人们开始思考如何用更短的时间下载更大的文件，追求更快的速度。当下在稳定的基础上有什么方法可以提升速度呢？

背景 最近网络上有一则新闻引发了讨论：华为战略部总裁张文林：实验室内可做到2千公里0.1毫秒时延 满足车联网精确需要。 主要原因是根据标题中的描述，这种通讯方式达到了「2千公里0.1毫秒时延」。这个描述引发了两种争论： 这种通讯方式的传输速度为...