被70亿收购的OpenRouter缓存作弊曝光:标价最低却坑钱最狠

被70亿收购的OpenRouter缓存作弊曝光:标价最低却坑钱最狠

💡 原文中文,约4200字,阅读约需10分钟。
📝

内容提要

OpenRouter被Stripe以70亿美元收购后,曝出缓存作弊问题。部分低价模型提供商通过虚报缓存命中率,让用户为重复内容全额付费,实际成本更高。实验显示,约5次查询后用户就多付钱,平台每年因此损失约350万美元。问题源于路由算法只看标价,忽视实际支付,需改进定价机制。

🔎

延伸解读

缓存作弊的机制与影响

OpenRouter的缓存作弊问题源于提供商自行报告缓存命中率,用户无法验证。实验显示,部分低价提供商通过虚报缓存命中率,让用户为重复内容全额付费。例如,标价0.6美元的提供商实际收费可能高于标价1美元的诚实提供商。用户约5次重复查询后就会多付钱,平台每年因此损失约350万美元。

与区块链MEV的类比

OpenRouter的缓存作弊与区块链上的最大可提取价值(MEV)在结构上相似:都是通过操纵规则未测量的变量来提取利润。在区块链上,矿工操纵交易顺序;在OpenRouter上,提供商操纵缓存报告。这种类比揭示了平台治理中计分规则设计的重要性,以及技术细节可能被利用的风险。

修复方案与挑战

最简单的修复方案是让路由器按用户实际支付的有效价格排序,而非提供商报价。此外,定期发送测试请求检测缓存行为也是一种可行方法。然而,要求密码学证明缓存计数目前不现实,会拖慢性能。文章指出,问题在于无法区分故意作弊与技术缺陷,这给平台治理带来挑战。

Q&A

OpenRouter被曝出的缓存作弊问题是什么?

OpenRouter上一些低价模型提供商通过虚报缓存命中率,让用户为重复内容全额付费,导致实际成本更高。

OpenRouter的缓存作弊是如何操作的?

提供商在API返回的usage.prompt_tokens_details.cached_tokens字段中虚报缓存命中情况,用户无法验证,从而在缓存未命中时按全价收费。

缓存作弊对用户的实际影响有多大?

实验显示,用户大约5次重复查询后,多付的钱就超过直接使用模型建造者端点的成本。

🏷️

标签

➡️

继续阅读