处理API的速率限制对于并行请求至关重要。OpenAI设定了请求和令牌的速率限制。使用指数退避法重试失败请求，并通过令牌桶算法管理请求。初始化速率限制器以确保在令牌充足时发送请求，失败时进行重试。

本文分析了在MacBook M2 Pro上运行DeepSeek R1 Gwen 7B模型的性能。测试显示，单请求速度为53.1 tokens/s，19个并行请求降至9.1 tokens/s，256个请求仅为6.3 tokens/s，超过19个请求会显著延长响应时间，影响用户体验。整体而言，该模型适合日常任务，但在商业应用中表现不足。