BriefGPT - AI 论文速递 ·

LagKV：KV缓存的延迟相对信息揭示了哪些令牌是重要的

💡 原文中文，约200字，阅读约需1分钟。

📝

内容提要

本研究提出LagKV策略，解决了大语言模型在长上下文推理中KV缓存过大的问题。该策略通过比较KV关系，实现高效的缓存压缩，几乎不影响性能，并在特定任务上优于注意力权重方法。

🏷️

神所使用的 eGPU 并不完美
作者因轻薄本核显性能不足，购买华为显卡魔方外接显卡，但遇电源散热问题导致重启，遂转用机魂联盟扩展坞配RX 9060 XT显卡。性能提升显著，但雷电4带宽限...
RTC 推流哪家服务商延迟比较低？
RTC推流延迟比较需关注整条链路而非单一数字，受协议、网络环境影响。头部厂商如即构（ZEGO）在理想环境下延迟约79-300ms，但真实差异体现在弱网、跨...
CD sales are booming as physical media continues its resurgence
According to the Recording Industry Association of America (RIAA), CD sales e...
Kimi K3 模型结构（7）：结构决定系统
本文总结Kimi K3模型结构对训练与推理系统的影响。KDA采用三种执行形态（FlashKDA、设备内上下文并行、状态回滚）处理固定大小状态；上下文并行通...
Kimi K3 模型结构（6）：输入端与零件，MoonViT-V2、MTP、Per-Head Muon
Kimi K3模型采用从零训练的MoonViT-V2视觉编码器，27层、patch14结构，支持高分辨率图像token化；MTP层预训练后微调为EAGLE...
EP224：MCP与RAG及AI代理的对比
An AI agent is kind of an AI system where the agent performs the task autonom...