作者在分布式推理系统中遇到cudaMemcpyAsync永久挂起的问题,表现为GPU空闲但CPU自旋等待。通过排查,发现是pageable内存拷贝导致驱动轮询卡死,最终用pinned buffer替换所有pageable拷贝来规避,但未解决根本原因。
完成下面两步后,将自动完成登录并继续当前操作。