Google has added a Kernel Profiling suite to XProf. This is its open-source profiler for TPU workloads. Now, developers can see cycle-level details in custom Pallas kernels. Before, these kernels...

Linux内核开始为苹果M1/M2/M3芯片设备补齐USB4协议支持，得益于Asahi Linux工程师的努力。首批代码支持XDomain连接和USB3-over-USB4隧道，但PCIe和DP隧道未完成，雷电扩展坞、外接显卡等暂无法正常工作。补丁仍在审查中，未正式合并。

最近在 Mac 上发现 kernel_task 的磁盘写入量较大，主要由飞书日志、浏览器缓存和 Spotlight 索引引起。经过检查，SSD 健康正常，写入量并不意味着硬盘故障。建议观察写入情况，若无异常则无需过于担忧。

本文讨论了Kernel Fusion技术，强调其在减少HBM往返和提升memory-bound算子性能方面的重要性。通过将相邻算子合并为一个kernel，减少数据搬运，实验证明加速比随融合链长度线性增长。融合类型包括逐元素融合和归约融合，但在中间结果复用和资源不足的情况下需谨慎使用。现代编译器如PyTorch和TensorFlow自动化融合过程，以提高效率。

本文讨论了在多卡训练中通过重叠通信与计算提高效率的方法。重叠分为三个层次：第一层使用cp.async在内核内实现异步加载，第二层通过CUDA流实现内核间的并发，第三层利用NCCL在分布式环境中实现通信与计算的重叠。重叠可以隐藏等待时间，但也会导致资源争抢和同步开销。

算子库工程涉及多个kernel的选择与优化，主要包括dispatch和autotune机制。dispatch根据形状、精度和架构选择最佳kernel，autotune通过实测候选配置优化性能。JIT编译按需生成特定kernel，提高效率，但需缓存编译结果以减少延迟。此外，算子库需关注正确性回归和版本管理，以确保稳定性和可维护性。

本文讨论了GPU kernel的调试与数值正确性，主要包括内存/竞态错误和数值错误两类。使用compute-sanitizer工具检查内存问题，并通过与高精度参考实现对比来验证数值正确性。强调浮点运算的非结合性可能导致结果微小差异，需用容差比较。总结了常见的kernel错误及调试方法，确保正确性是关键。

本文介绍了CUDA kernel的基本构建，包括向量加法的实现、线程索引、同步机制和启动配置。强调了grid-stride loop的优势，使kernel与数据规模解耦，并介绍了__syncthreads()的使用注意事项。建议block大小应为128至512，避免使用过小的block，并强调CUDA错误检查的重要性，以确保程序的稳定性和性能。

Daniel Finneran explores how eBPF has evolved far beyond its roots in packet filtering into a robust, safe way to extend the Linux kernel. He explains how the eBPF "verifier", the security...

开源虚拟机软件VirtualBox发布了v7.2.10版本，修复了已知问题并提升了兼容性，初步支持Linux Kernel 7.1。更新内容包括修复CentOS 10启动、EFI设备启动和USB设备连接问题。用户可前往官网下载最新版进行更新。

Linux Kernel 7.1 正式版发布，主要集中在稳定性和驱动程序修复上，包括显示、网络和声卡驱动的优化，以及内存管理和跟踪工具的修复。建议普通用户直接升级，服务器环境需先测试确认。下一个版本 7.2 预计在 8 月发布。

What you need before you have a problem worth solving A few weeks ago, I caught up with my good friend Lucas Mara, a thoughtful design leader. We were deep in a conversation about the value of...