Cloudflare开发的Infire是一款高效的LLM推理引擎，旨在优化GPU利用率和降低CPU负载。通过动态调度和连续批处理技术，Infire提升了推理速度，支持更多请求，并满足安全需求。与传统vLLM相比，Infire在资源使用上更具优势，未来将支持多GPU和量化功能。