本文讨论了大型语言模型（LLM）请求的两个阶段：预填充和解码。预填充阶段处理整个提示，受限于计算能力；解码阶段逐个生成令牌，受限于内存带宽。优化策略需根据这两个阶段的特性进行调整，以提高响应速度。使用Redis的语义缓存可以在缓存命中时绕过推理过程，消除预填充和解码的成本。

本文讨论了推测解码在大语言模型推理中的应用，旨在加速请求而不影响输出。通过使用小型草稿模型生成多个候选令牌，主模型可以快速验证这些候选，从而提高生成速度。不同变体如EAGLE-3和SuffixDecoding针对不同限制进行了优化，显著提升了速度。推测解码与语义缓存相辅相成，有效降低请求延迟。选择合适的技术与工作负载匹配是实现最佳性能的关键。

Mesa Radeon "RADV" Vulkan 驱动程序新增低延迟视频编解码选项，旨在降低延迟但增加功耗。用户可通过设置环境变量启用该模式，相关功能将于 Mesa 26.1 版本发布。

本文介绍了大型语言模型（LLM）推理的两个阶段：预填充和解码。预填充阶段通过并行处理整个提示，计算并存储每个令牌的键（K）和值（V）。解码阶段逐个生成令牌，使用新令牌的查询（Q）与缓存的键和值进行计算，从而提高解码效率，特别是在处理长提示和生成响应时。

随着硬件加速芯片的普及，视频编解码问题基本解决，但专业工作流程仍存在性能瓶颈。FFmpeg通过Vulkan Compute在消费级GPU上加速视频编码解码，提高效率，支持多种格式，推动基于计算的编解码器发展。

AV2 规范已发布，AOMedia 成员在 CES 2026 展示了 AV2 解码的实时播放。谷歌和 VideoLAN 在笔记本电脑和浏览器中演示了 AV2 解码，验证了其在消费级硬件上的可行性，后续将专注于优化和扩展平台支持。

在ESP32-S3上进行JPEG解码性能测试，结果显示ESP_NEW_JPEG在240×240分辨率下可达到约40 FPS。通过优化DMA传输，实现解码与传输并行，显著提升了性能。测试表明，系统瓶颈主要在于上屏时间，而非解码速度，整体提升FPS的空间有限。

在Android NDK开发中，使用C++调用MediaCodec进行视频编码和解码。编码流程包括初始化编码器、配置参数、输入YUV数据并获取H.264输出；解码流程则是将H.264比特流转换为可显示的像素，需配置解码器并处理输出，注意数据格式和异步处理。

本文讨论了在ESP32-S3上进行JPEG图片解码的性能测试。比较了ESP32_NEW_JPEG和JPEGDEC两种解码库，结果显示ESP32_NEW_JPEG在低分辨率下表现优异，而JPEGDEC在使用SIMD指令后也有良好表现。解码速度和内存占用是选择解码库的重要因素，建议根据需要选择合适的解码库以优化性能。

FFmpeg 开发者 Lynne 为 FFmpeg 7.1 版本增加了对 xHE-AAC MPS212 音频解码的支持，包含 MPEG-H 环绕声和 2-1-2 混音模式，目前仍处于实验阶段。

Mesa 26.1-devel 版本合并了 RadeonSI 和 RADV 驱动程序的视频解码统一实现，提升了 AMD 视频加速支持，使 RADV Vulkan 视频可在旧款 Hawaii GPU 上运行，减少了约1400行代码，预计第二季度正式发布。

本文介绍了推测解码的工作原理及其在大型语言模型推理中的应用。推测解码通过小型草稿模型生成多个候选标记，并利用大型目标模型并行验证，从而显著提高推理速度，达到2-3倍的加速效果。该方法有效解决了内存带宽瓶颈问题，适用于翻译、摘要等任务。选择合适的草稿模型是实现最佳效果的关键。

Shotcut 26.1 发布，新增 GPU 硬件加速视频解码（Linux 上的 NVIDIA GPU 除外），支持多平台硬件解码，性能显著提升。视频导出时默认禁用硬件解码器。源代码可在 GitHub 获取。