【GPU 算子工程】调试与数值正确性：compute-sanitizer 与对齐测试
内容提要
本文讨论了GPU kernel的调试与数值正确性，主要包括内存/竞态错误和数值错误两类。使用compute-sanitizer工具检查内存问题，并通过与高精度参考实现对比来验证数值正确性。强调浮点运算的非结合性可能导致结果微小差异，需用容差比较。总结了常见的kernel错误及调试方法，确保正确性是关键。
关键要点
-
GPU kernel 的错误主要分为内存/竞态错误和数值错误，排查手段不同。
-
内存与竞态错误包括越界访问、未初始化读、共享内存数据竞争等，使用 compute-sanitizer 工具进行检查。
-
数值错误由算法错误、精度不足等引起，通过与高精度参考实现进行容差对齐来验证。
-
使用 compute-sanitizer 的不同子工具可以检查越界、数据竞争、未初始化读和同步误用等问题。
-
数值正确性需要与高精度参考结果进行容差比较，使用相对和绝对容差来判断结果的正确性。
-
浮点运算的非结合性可能导致结果微小差异，需用容差比较来判断是否为逻辑错误。
-
常见的 kernel 错误包括漏边界检查、漏同步、发散同步、索引错误等，需通过调试方法进行排查。
-
调试方法论建议先使用 sanitizer 排查内存和竞态问题，再进行数值对比，最后区分逻辑错误与浮点顺序问题。
-
确保正确性是关键，未来趋势将关注算子工程与编译器的协同发展。
延伸解读
内存与竞态错误的排查
GPU kernel 中的内存和竞态错误往往难以察觉，可能导致程序在特定条件下崩溃或输出错误结果。使用 compute-sanitizer 工具可以有效检测这些问题，建议在开发阶段将其纳入持续集成（CI）流程中，以便及时发现和修复潜在的错误。
数值正确性的验证
确保 GPU kernel 的数值正确性需要与高精度参考实现进行容差对齐。使用 FP64 计算的参考结果作为真值，并通过相对和绝对容差进行比较，可以有效判断结果的准确性。这一过程对于避免逻辑错误至关重要，尤其是在处理浮点运算时。
浮点运算的非结合性
浮点运算的非结合性可能导致相同计算在不同运行中产生微小差异，这并不一定是错误。开发者需要理解这一特性，并在需要可复现结果时，采用确定的计算顺序或固定的并行配置，以减少结果的随机浮动。
延伸问答
GPU kernel 中常见的内存错误有哪些？
常见的内存错误包括越界访问、未初始化读、共享内存数据竞争和漏掉的同步。
如何使用 compute-sanitizer 工具检查 GPU kernel 的错误？
可以使用 compute-sanitizer 的子工具，如 memcheck 检查越界，racecheck 检查数据竞争，initcheck 检查未初始化读，synccheck 检查同步误用。
数值正确性如何通过容差对齐进行验证？
数值正确性通过与高精度参考实现进行容差比较，使用相对和绝对容差来判断结果的正确性。
浮点运算的非结合性对结果有什么影响？
浮点运算的非结合性可能导致结果在末位有微小差异，这通常不是逻辑错误，而是由于加法顺序不同造成的浮动。
调试 GPU kernel 的推荐步骤是什么？
推荐的调试步骤是先使用 compute-sanitizer 排查内存和竞态问题，再进行数值对比，最后区分逻辑错误与浮点顺序问题。
在 GPU kernel 中，如何处理逻辑错误与浮点顺序问题？
逻辑错误通常表现为系统性偏差，而浮点顺序问题则表现为误差在 ULP 量级的随机浮动。需要通过容差比较来区分。
