小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文讨论了Mooncake统一内存池中的驱逐策略,强调在处理softpin对象时,驱逐应以迁移为主,而非删除。借鉴Linux内存回收机制,提出分层的驱逐逻辑,以优化内存管理,确保在线操作的高效性和稳定性。

Mooncake 统一内存池:从默认 Evict 到 Linux Reclaim

学习让我快乐
学习让我快乐 · 2026-04-20T16:00:00Z
通过强化学习优化键值缓存的驱逐策略

本文探讨了通过强化学习优化键值缓存的驱逐策略,以提升大型语言模型的推理效率。研究提出了KV Policy框架,利用轻量级RL代理根据未来效用对令牌进行排名,从而显著改善缓存管理效果。KVP在多个基准测试中表现优异,展现了其在适应性KV缓存管理中的潜力。

通过强化学习优化键值缓存的驱逐策略

Apple Machine Learning Research
Apple Machine Learning Research · 2026-02-23T00:00:00Z

本文介绍了 Caffeine 缓存的固定大小元素驱逐策略,重点阐述其实现原理和源码细节。Caffeine 通过 ConcurrentHashMap 管理数据,结合 LRU 算法和 Count-Min Sketch 数据结构优化元素访问频率,并采用 MPSC 多线程设计模式以提高读写效率。文章还分析了缓存维护机制和元素驱逐策略,为本地缓存选型提供理论依据。

缓存之美:万文详解 Caffeine 实现原理(上)

京东科技开发者
京东科技开发者 · 2025-08-05T06:37:29Z
LFU与LRU:如何选择合适的缓存驱逐策略

LFU(最少使用)和LRU(最近最少使用)是常见的缓存驱逐策略。LFU根据访问频率驱逐不常用数据,LRU则根据最近访问时间驱逐最久未使用的数据。选择合适的策略可提升缓存性能,避免响应慢和用户体验差的问题。LFU适合稳定访问模式,LRU适合动态变化的访问模式。混合策略结合两者优点,适应不同场景。

LFU与LRU:如何选择合适的缓存驱逐策略

Redis Blog
Redis Blog · 2025-07-23T00:00:00Z
Golang 低级设计:缓存系统的设计(LRU、LFU、FIFO)

本文介绍了缓存系统的设计方法,包括基本操作(添加、获取、删除键值对)和驱逐策略(LRU、LFU、FIFO)。代码结构清晰,支持扩展,采用工厂模式创建不同的驱逐策略,并实现了TTL过期机制,优化了存储和查找效率。

Golang 低级设计:缓存系统的设计(LRU、LFU、FIFO)

DEV Community
DEV Community · 2025-03-29T14:22:16Z
当Redis内存耗尽时会发生什么?

当Redis内存达到限制时,它会根据配置采取不同的内存管理策略,如写操作失败、数据驱逐和持久化策略。Redis支持多种驱逐策略,包括随机驱逐和LRU驱逐。为避免问题,应优化数据结构、定期分析内存、进行扩展并实施监控。

当Redis内存耗尽时会发生什么?

DEV Community
DEV Community · 2025-02-05T20:26:25Z

Caffeine是一个基于Java8的高性能缓存库,提供灵活的构造器和多种缓存策略。支持自动和异步加载、基于大小和时间的驱逐、弱引用和软引用存储等功能。核心类包括Cache、LoadingCache、AsyncCache和AsyncLoadingCache,支持手动和自动加载、异步操作等。驱逐策略有容量、时间和引用三种,还支持手动移除和监听器功能。

Caffeine学习笔记

京东科技开发者
京东科技开发者 · 2024-10-16T05:32:45Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码