缓存Caffeine与Sieve比较
内容提要
Caffeine使用自适应窗口技术，提高命中率。与其他策略相比，Caffeine在性能和可扩展性方面表现出竞争力。幽灵队列大小限制在主队列范围内效果较差。S3-FIFO在命中率上优于W-TinyLFU，但在lfu友好的轨迹上表现不佳。
延伸解读
自适应窗口的代价与收益
Caffeine 从 1% 的窗口起步，通过监测 TinyLFU 采样期间的命中率，用爬坡法动态调整窗口大小。这种自适应机制在预热期可能因窗口初始值不佳而命中率偏低，但很快达到峰值性能，对短时间运行影响不大。不过，频率计数器容量随条目增长而调整，会损失流行度得分，且哈希抖动导致不同运行间的接纳决策略有差异。
命中率对比：Caffeine 领先，但需注意实现差异
在作者使用的跟踪上，Caffeine 的命中率（47.07%）领先 Sieve（43.47%）3.60 个百分点，领先 S3Fifo（38.22%）8.85 个百分点。但作者强调，幽灵队列的实现方式会显著影响命中率，例如将幽灵队列大小限制在主队列范围内效果较差。因此，比较不同实现时需谨慎，避免因实现差异而误判策略优劣。
多线程可扩展性：策略并非瓶颈
文章指出，LRU 因锁定下的重新排序可能成为可扩展性瓶颈，但这种说法可能引起误解，因为许多缓存将驱逐策略与管理并发的方式分离。Caffeine 在 16 核上实现 3.8 亿读取/秒的线性扩展，而 Segcache 的 FIFO 策略在 24 核上为 7000 万次/秒。这表明策略的并发性不必成为瓶颈，设计者可以专注于其他优化。
S3-FIFO 的适用场景与局限
网友讨论指出，S3-FIFO 在多数跟踪上命中率优于或大致等于 W-TinyLFU，但在 LFU 友好的轨迹上表现不佳。此外，幽灵队列大小限制在主队列范围内时，在小缓存规模下效果很差。作者认为 S3-FIFO 有生存权利，尤其若能利用它做出更自适应的方法，但完全放弃 W-TinyLFU 并重写的想法正变得诱人。
Q&A
Caffeine缓存是如何自适应调整窗口大小的？
Caffeine从1%的窗口开始，监测TinyLFU采样期间的命中率，并使用爬坡法动态调整窗口大小。频率计数器容量随条目数增长，类似哈希表。预热期间命中率可能较低，但很快达到峰值性能。
Caffeine与Sieve、S3-FIFO在命中率上的对比结果如何？
根据文章测试数据，Caffeine的命中率为47.07%，Sieve为43.47%，S3Fifo为38.22%。Caffeine以3.60%的命中率领先Sieve，以8.85%领先S3Fifo。
为什么说LRU的可扩展性瓶颈可能被误解？
文章指出，许多缓存将驱逐策略与管理并发的方式分离，使LRU特性无关紧要。例如Caffeine在16核上线性扩展至3.8亿读取/秒，而Segcache的FIFO策略在24核上仅7000万次/秒，表明策略并发性不必成为瓶颈。
幽灵队列大小限制在主队列范围内会有什么问题？
将幽灵队列大小限制在主队列范围内效果较差，尤其在小缓存规模下，会导致命中率大幅跳变。文章建议将幽灵队列限制为整个缓存的大小，或存储项目哈希值并按FIFO顺序驱逐。
S3-FIFO在哪些场景下表现不佳？
S3-FIFO在LFU友好的轨迹上表现不佳，但在其他跟踪上（除S3和DS1外）性能优于或大致等于W-TinyLFU。文章作者认为S3-FIFO有生存权利，尤其结合自适应改进时。
Caffeine在多线程环境下的性能表现如何？
Caffeine在性能和可扩展性方面表现出竞争力，尤其在多线程环境中。它在16个内核（2015年硬件）上实现线性扩展，读取速度达3.8亿次/秒，远高于Segcache的FIFO策略。
