标签
缓存
相关的文章:本列表页汇集了关于缓存技术的多篇文章,涵盖高性能缓存设计、分布式缓存解决方案及其在实际应用中的表现,帮助您深入理解缓存的魅力与挑战。
PaddleMIX推出扩散模型推理加速工具箱Fast-Diffusers:自研缓存加速方案实现2倍+提速
FirstBlock-Taylor在Taylorseer的基础上将统一的缓存策略改为借鉴ParaAttention使用firstblock进行判断的启发式预测策略,具体来说:就是推理阶段的每一步时,我们会判断当前步是否能使用taylorseer进行预测,通过比较上一步与当前步第一个block的输出输入的残差相似度,如果相似度低于阈值,则我们觉得当前步可以复用缓存使用taylor扩展进行预测,...
飞桨PaddlePaddle推出扩散模型推理加速插件,利用模型蒸馏和推理缓存等技术,将推理速度提升超过2倍,同时保持生成质量。主要方法包括SortBlock、TeaBlockCache和FirstBlock-Taylor,开发者可灵活应用这些插件以优化实时应用。
高性能分布式缓存Curvine开源
Curvine是一套分布式缓存系统,基于Rust实现,具备 高并发,高吞吐,低延迟,资源消耗低等特点。不同于Redis、TiKV等KV缓存,Curvine只提供文件缓存能力。Curvine不是存储系统,只提供缓存能力,数据持久化还是需要底层文件或者对象存储系统支撑。 Curvine适用于以下五大场景: 1、 大数据shuffle 中间数据加速 2、 大数据热表数据缓存加速 3、...
Curvine是一款基于Rust的分布式缓存系统,专注于文件缓存,具备高并发和低延迟的特点,适用于大数据处理和AI训练,旨在解决计算性能与存储IO之间的瓶颈。
使用ReadySet对PostgreSQL进行查询缓存的测试(包括ProxySQL和HAproxy)第二部分:测试结果
In the first post of this series (Testing ReadySet as a Query Cacher for PostgreSQL (Plus ProxySQL and HAproxy) Part 1: How-To), I presented my test environment and methodology and explained how...
本文测试了使用ReadySet、ProxySQL和HAproxy对PostgreSQL进行查询缓存的效果,环境由多个云实例组成,主要分析了读写和只读场景。结果表明,ProxySQL在读写负载下优于ReadySet,而HAproxy在负载均衡方面表现更佳。总体来看,分流到多个服务器的场景性能更好。
测试ReadySet作为PostgreSQL的查询缓存器(附ProxySQL和HAproxy)第一部分:使用指南
A couple of weeks ago, I attended a PGDay event in Blumenau, a city not far away from where I live in Brazil. Opening the day were former Percona colleagues Marcelo Altmann and Wagner Bianchi,...
作者在巴西Blumenau的PGDay活动中介绍了ReadySet对PostgreSQL的支持。ReadySet是一种数据库缓存服务,通过PostgreSQL的复制流保持数据同步,降低脏数据风险。文章还探讨了ProxySQL和HAproxy的使用,测试环境包括Patroni集群和应用服务器,旨在提高数据库请求处理效率。
招聘 rust 分布式缓存研发实习生,base上海,350/天,外地学校包住宿。
缓存与数据库:架构如何影响性能
Although caches and databases were created for distinctly different purposes, boundaries are blurring. Databases’ internal caching mechanisms have become increasingly The post Cache vs. Database:...
缓存与数据库的界限日益模糊。Memcached在内存使用效率上优于ScyllaDB,但后者支持复杂数据模型。选择技术应依据工作负载需求和数据持久性要求。
高性能缓存设计:如何解决缓存伪共享问题
缓存之美:Guava Cache 相比于 Caffeine 差在哪里?
本文将结合 Guava Cache的源码来分析它的实现原理,并阐述它相比于 Caffeine Cache 在性能上的劣势。
本文分析了Guava Cache的实现原理,指出其性能不及Caffeine Cache。Guava Cache通过分段锁、volatile变量和多种缓存策略管理缓存,使用LRU算法驱逐元素,数据结构包括AtomicReferenceArray和多个队列,支持高并发读写。尽管在性能和功能上劣于Caffeine,但在低性能需求场景下仍可考虑使用。