标签

 缓存 

相关的文章:

本列表汇集了关于缓存技术的最新研究与实践,涵盖高性能缓存设计、分布式缓存解决方案及其在不同场景中的应用,助力提升系统性能与响应速度。

PaddleMIX推出扩散模型推理加速工具箱Fast-Diffusers:自研缓存加速方案实现2倍+提速

FirstBlock-Taylor在Taylorseer的基础上将统一的缓存策略改为借鉴ParaAttention使用firstblock进行判断的启发式预测策略,具体来说:就是推理阶段的每一步时,我们会判断当前步是否能使用taylorseer进行预测,通过比较上一步与当前步第一个block的输出输入的残差相似度,如果相似度低于阈值,则我们觉得当前步可以复用缓存使用taylor扩展进行预测,...

飞桨PaddlePaddle推出扩散模型推理加速插件,利用模型蒸馏和推理缓存等技术,将推理速度提升超过2倍,同时保持生成质量。主要方法包括SortBlock、TeaBlockCache和FirstBlock-Taylor,开发者可灵活应用这些插件以优化实时应用。

原文中文,约6700字,阅读约需16分钟。发表于:
阅读原文

高性能分布式缓存Curvine开源

Curvine是一套分布式缓存系统,基于Rust实现,具备 高并发,高吞吐,低延迟,资源消耗低等特点。不同于Redis、TiKV等KV缓存,Curvine只提供文件缓存能力。Curvine不是存储系统,只提供缓存能力,数据持久化还是需要底层文件或者对象存储系统支撑。 Curvine适用于以下五大场景: 1、 大数据shuffle 中间数据加速 2、 大数据热表数据缓存加速 3、...

Curvine是一款基于Rust的分布式缓存系统,专注于文件缓存,具备高并发和低延迟的特点,适用于大数据处理和AI训练,旨在解决计算性能与存储IO之间的瓶颈。

原文中文,约400字,阅读约需1分钟。发表于:
阅读原文

使用ReadySet对PostgreSQL进行查询缓存的测试(包括ProxySQL和HAproxy)第二部分:测试结果

In the first post of this series (Testing ReadySet as a Query Cacher for PostgreSQL (Plus ProxySQL and HAproxy) Part 1: How-To), I presented my test environment and methodology and explained how...

本文测试了使用ReadySet、ProxySQL和HAproxy对PostgreSQL进行查询缓存的效果,环境由多个云实例组成,主要分析了读写和只读场景。结果表明,ProxySQL在读写负载下优于ReadySet,而HAproxy在负载均衡方面表现更佳。总体来看,分流到多个服务器的场景性能更好。

使用ReadySet对PostgreSQL进行查询缓存的测试(包括ProxySQL和HAproxy)第二部分:测试结果
原文英文,约2800词,阅读约需10分钟。发表于:
阅读原文

测试ReadySet作为PostgreSQL的查询缓存器(附ProxySQL和HAproxy)第一部分:使用指南

A couple of weeks ago, I attended a PGDay event in Blumenau, a city not far away from where I live in Brazil. Opening the day were former Percona colleagues Marcelo Altmann and Wagner Bianchi,...

作者在巴西Blumenau的PGDay活动中介绍了ReadySet对PostgreSQL的支持。ReadySet是一种数据库缓存服务,通过PostgreSQL的复制流保持数据同步,降低脏数据风险。文章还探讨了ProxySQL和HAproxy的使用,测试环境包括Patroni集群和应用服务器,旨在提高数据库请求处理效率。

测试ReadySet作为PostgreSQL的查询缓存器(附ProxySQL和HAproxy)第一部分:使用指南
原文英文,约7500词,阅读约需28分钟。发表于:
阅读原文

招聘 rust 分布式缓存研发实习生,base上海,350/天,外地学校包住宿。

实习岗位:Rust 分布式缓存研发实习生 地点:上海(中电信人工智能研究院) 薪资:350 元/天 住宿:提供外地高校实习生住宿 🛠 岗位职责 参与高性能分布式缓存系统的设计与开发 使用 Rust 实现核心模块,包括网络通信、存储引擎、调度机制等 协助完成系统的性能测试与优化 ✅...

招聘Rust分布式缓存研发实习生,地点上海,薪资350元/天,外地学生提供住宿。要求有开源项目贡献、技术博客、性能测试与优化经验,具备分布式系统架构思维。联系方式:1020401660@qq.com。

原文中文,约200字,阅读约需1分钟。发表于:
阅读原文

缓存与数据库:架构如何影响性能

Although caches and databases were created for distinctly different purposes, boundaries are blurring. Databases’ internal caching mechanisms have become increasingly The post Cache vs. Database:...

缓存与数据库的界限日益模糊。Memcached在内存使用效率上优于ScyllaDB,但后者支持复杂数据模型。选择技术应依据工作负载需求和数据持久性要求。

缓存与数据库:架构如何影响性能
原文英文,约1800词,阅读约需7分钟。发表于:
阅读原文

高性能缓存设计:如何解决缓存伪共享问题

在多核高并发场景下,缓存伪共享(False Sharing)是导致性能骤降的“隐形杀手”。

在多核高并发环境中,缓存伪共享会导致性能下降。不同线程频繁修改同一缓存行中的独立变量,触发缓存一致性协议,造成无效化风暴。通过内存填充和@Contended注解等技术,可以有效解决此问题,提高性能。

原文中文,约5800字,阅读约需14分钟。发表于:
阅读原文

缓存之美:Guava Cache 相比于 Caffeine 差在哪里?

本文将结合 Guava Cache的源码来分析它的实现原理,并阐述它相比于 Caffeine Cache 在性能上的劣势。

本文分析了Guava Cache的实现原理,指出其性能不及Caffeine Cache。Guava Cache通过分段锁、volatile变量和多种缓存策略管理缓存,使用LRU算法驱逐元素,数据结构包括AtomicReferenceArray和多个队列,支持高并发读写。尽管在性能和功能上劣于Caffeine,但在低性能需求场景下仍可考虑使用。

原文中文,约50700字,阅读约需121分钟。发表于:
阅读原文

高性能缓存设计:如何解决缓存伪共享问题

我们使用注解将这两个字段定义在两个不同的缓存行中,执行结果耗时与显示声明字段占位耗时相差不大,为 520ms。另外需要注意的是,要想使注解。

缓存伪共享是多核高并发场景中的性能隐患,因不同线程频繁修改同一缓存行中的独立变量,导致缓存一致性协议强制同步,影响性能。使用内存填充和JDK 1.8的@Contended注解可有效解决此问题,提升性能。

原文中文,约5000字,阅读约需12分钟。发表于:
阅读原文

缓存之美:Guava Cache 相比于 Caffeine 差在哪里?

作者:京东科技 王奕龙本文将结合的源码来分析它的实现原理,并阐述它相比于 Caffeine Cache 在性能上的劣势。为了让大家对 Guava Cache 理解起来更容易,我们还是在开篇介绍它的原理:Guava Cache 通过分段(Segment)锁()机制、volatile变量和多种缓存策略实现了性能相对 Caffeine...

本文分析了Guava Cache的实现原理,指出其性能不及Caffeine Cache。Guava Cache通过分段锁、volatile变量和多种缓存策略管理缓存,采用LRU算法驱逐元素。尽管在并发性能和缓存驱逐策略上存在劣势,但在性能要求不高的场景中仍可使用。

原文中文,约39500字,阅读约需94分钟。发表于:
阅读原文