CUDA_DEVICE_MAX_CONNECTIONS 环境变量控制 GPU 硬件并发连接数，默认仅为 8。即使软件层创建大量 CUDA 流，若该值不足，GPU 仍会因硬件队列限制而利用率低下。实验用 32 个流测试，吞吐量随该值从 1 增至 32 几乎翻倍，达 84601 QPS。每个流映射一个硬件队列，建议将其设为与流数一致以最大化 GPU 利用率。AMD GPU 对应变量为 GPU_MAX_HW_QUEUES，默认 4。