Cursor推出模型路由器，自动为编码任务选择最合适的AI模型，兼顾成本与性能，早期用户节省30-50%成本。此举引发行业跟进，如Ramp、Meta等也在开发类似工具。但有人质疑其封闭性，认为应开源以实现自定义路由。

本文讨论了模型路由器在大型语言模型（LLM）中的应用。模型路由器通过分析请求的复杂性、成本和延迟，选择最合适的模型处理请求，从而降低成本并提高可靠性。文章介绍了三种主要的路由策略：基于规则的路由、语义路由和预测路由，并强调了在生产环境中有效管理请求和缓存的重要性。Redis Iris被提及为整合实时上下文的解决方案，提升了AI应用的性能和效率。