小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
诺埃米·瓦尼:我们跳过了OLAP架构,直接在原生Postgres中构建了我们的数据仓库

我们将身份数据、产品使用、账单和事件整合到Postgres数据仓库,利用物化视图和pg_cron,简化分析架构,以更好地理解用户行为和收入信号,支持数据驱动决策。该方法灵活且低复杂度,适合当前规模。

诺埃米·瓦尼:我们跳过了OLAP架构,直接在原生Postgres中构建了我们的数据仓库

Planet PostgreSQL
Planet PostgreSQL · 2026-03-17T09:00:00Z
如何在不产生资源竞争的情况下同时运行OLAP和OLTP

OLAP(在线分析处理)和OLTP(在线事务处理)有不同的目的:OLAP用于数据分析,OLTP用于实时交易。在同一数据库中并行运行会导致资源竞争,影响性能。解决方案包括物理隔离、调度隔离和工作负载优先级管理,以降低延迟和提高吞吐量。

如何在不产生资源竞争的情况下同时运行OLAP和OLTP

The New Stack
The New Stack · 2025-12-17T15:00:54Z
在PlanetScale中使用MotherDuck

PlanetScale Postgres支持pg_duckdb扩展,用户可以在Postgres中无缝执行OLTP和OLAP查询,并将分析查询转移至MotherDuck云,以提升性能和数据处理效率。

在PlanetScale中使用MotherDuck

PlanetScale - Blog
PlanetScale - Blog · 2025-12-16T00:00:00Z
谷歌Spanner通过列式引擎统一OLTP与OLAP

谷歌推出Spanner列式引擎,解决在线事务处理(OLTP)与分析查询处理(OLAP)的冲突,支持同时处理两种工作负载,消除独立数据仓库需求。该引擎通过混合架构优化分析查询,支持实时数据的AI应用,性能提升达200倍。其他云服务商也在追求混合处理能力。

谷歌Spanner通过列式引擎统一OLTP与OLAP

InfoQ
InfoQ · 2025-09-05T10:00:00Z

OpenGaussDB的Cstore列存引擎适合OLAP分析和AI训练数据存储,用户可通过实践学习开发AI服务Dify,掌握列式存储表的使用。该引擎在数据压缩和查询性能上优于行存储,适合大数据分析。DataVec向量数据库则提供高效的向量数据存储与检索,支持智能应用场景。

基于开发者空间OpenGauss数据库列存引擎的分析与使用

华为云官方博客
华为云官方博客 · 2025-08-14T07:07:52Z
Cloudflare选择PostgreSQL扩展而非专用OLAP以实现每秒10万行的分析

Cloudflare选择TimescaleDB而非ClickHouse,以增强其内部平台的分析能力,因其在存储与性能之间取得良好平衡。通过构建数字体验监控平台,Cloudflare简化了基础设施,提升了查询性能,支持大规模数据处理。TimescaleDB的自动聚合和数据管理功能,使分析能力与PostgreSQL生态系统无缝结合。

Cloudflare选择PostgreSQL扩展而非专用OLAP以实现每秒10万行的分析

InfoQ
InfoQ · 2025-07-31T14:00:00Z

DuckDB的MVCC实现基于HyPer风格设计,采用乐观并发控制,避免锁机制。主要用于单节点OLAP分析,适合小事务,避免长事务和写热点问题。发生冲突时直接回滚,简化了多用户并发场景的复杂性。

DuckDB 的 MVCC 设计与 HyPer 模型

baotiao
baotiao · 2025-06-19T00:00:00Z
标记缓存:你尚未使用的ClickHouse速度提升技巧

ClickHouse是高吞吐量的OLAP数据库,其mark cache机制通过在内存中存储数据索引,提高查询速度并减少磁盘I/O。合理配置mark cache可提升系统性能,尤其在高并发场景下。监控命中率和内存使用,确保与其他缓存层的平衡,有助于优化性能。

标记缓存:你尚未使用的ClickHouse速度提升技巧

The New Stack
The New Stack · 2025-06-09T20:00:37Z
简单解释OLAP和OLTP,满足好奇的开发者

OLAP(在线分析处理)和OLTP(在线事务处理)是现代数据系统的两种主要架构。OLTP适合实时操作,处理大量短期事务,如银行和电商;而OLAP用于复杂的数据分析,适合历史数据和决策支持。开发者需根据需求选择合适的系统。

简单解释OLAP和OLTP,满足好奇的开发者

DEV Community
DEV Community · 2025-05-09T17:34:59Z
数据工程概念简介 |6| 数据建模基础

数据建模是将原始数据组织为便于查询和分析的结构。良好的数据模型提高性能、减少错误,而差的模型则导致查询缓慢和数据冗余。OLTP系统适合实时操作,OLAP系统用于分析。常见的建模模式有星型和雪花模式,选择依据性能需求和数据量。有效的数据模型应具备灵活性,以适应变化和增长。

数据工程概念简介 |6| 数据建模基础

DEV Community
DEV Community · 2025-05-02T19:07:40Z
解决OLTP与OLAP的分歧:PostgreSQL的B树和哈希索引在列存储数据中的应用

TimescaleDB 2.18通过支持PostgreSQL的B树和哈希索引,解决了列存储索引缺失的问题,实现了1185倍的查找速度和224倍的插入速度,显著提升了实时分析性能。

解决OLTP与OLAP的分歧:PostgreSQL的B树和哈希索引在列存储数据中的应用

DEV Community
DEV Community · 2025-04-07T18:42:00Z
如何选择适合数据分析的数据库

选择合适的数据库对数据分析至关重要,不同数据库适用于不同的数据类型和工作负载,如OLTP和OLAP。优化数据库性能时需考虑可扩展性、查询速度和数据安全性。使用合适的工具可以提升分析效率,快速获取洞察。

如何选择适合数据分析的数据库

Devart Blog
Devart Blog · 2025-03-27T14:33:40Z
我的数据工程Zoomcamp之旅:第三周 - 数据仓库与BigQuery!

本文讨论了OLAP与OLTP的区别,以及Google BigQuery的特点。OLTP用于实时交易,OLAP用于数据分析。BigQuery是无服务器的数据仓库,支持按需计费和内置机器学习。优化查询需利用分区和聚类,以减少不必要的查询和数据加载,数据结构和查询优化对数据工程师至关重要。

我的数据工程Zoomcamp之旅:第三周 - 数据仓库与BigQuery!

DEV Community
DEV Community · 2025-02-12T09:27:31Z
超越Postgres:如何在Postgres上运行OLAP工作负载

Postgres能够有效处理分析工作负载,但需了解其限制并进行优化。建议将分析查询与OLTP数据库分离,使用专门的分析副本,并设计合适的架构和模式。利用物化视图、表分区和BRIN索引等技术可显著提升查询性能,同时监控和维护也至关重要,需关注何时转向专用分析工具。

超越Postgres:如何在Postgres上运行OLAP工作负载

DEV Community
DEV Community · 2025-02-03T23:09:56Z
Karen Jex:Postgres 数据库调优与分析数据性能

本文讨论了如何在同一数据库中优化OLTP和OLAP工作负载,以提高查询性能而不影响应用性能。建议的方法包括调整数据库配置参数、使用连接池、创建索引、生成列和物化视图。此外,使用物理或逻辑复制创建独立的分析数据库也是有效的解决方案。

Karen Jex:Postgres 数据库调优与分析数据性能

Planet PostgreSQL
Planet PostgreSQL · 2025-01-09T14:30:00Z
随时随地解锁DuckDB - 使用Apache Arrow和Flight RPC (gRPC) 的远程访问指南

DuckDB是一款高效的SQL OLAP数据库,支持本地和远程数据处理。结合Apache Arrow和Arrow Flight RPC,可以实现远程访问,提升性能和可扩展性。本文介绍了如何搭建DuckDB的远程连接,并使用Python和Streamlit构建用户界面,以便用户执行SQL查询并展示结果。

随时随地解锁DuckDB - 使用Apache Arrow和Flight RPC (gRPC) 的远程访问指南

DEV Community
DEV Community · 2024-12-12T11:29:54Z
托马斯·冯德拉:性能考古学:OLAP

本文分析了Postgres在分析工作负载上的性能提升,使用TPC-H基准测试进行比较。尽管硬件较小,自8.0版本以来,数据加载和查询性能显著提高。未来可能需要重大架构变更,特别是结合列存储和专用引擎以实现更大改进。

托马斯·冯德拉:性能考古学:OLAP

Planet PostgreSQL
Planet PostgreSQL · 2024-12-03T12:00:00Z
ClickHouse与DuckDB的比较

OLAP数据库的兴起提升了数据分析效率。DuckDB是一款轻量级本地OLAP数据库,适合小到中等数据集,使用简单,无需复杂设置。ClickHouse则专为大规模数据分析设计,适合企业级应用。DuckDB适合快速本地分析,而ClickHouse在处理大数据集方面表现优异。

ClickHouse与DuckDB的比较

DEV Community
DEV Community · 2024-12-03T06:13:24Z
托马斯·冯德拉:性能考古学:在线事务处理(OLTP)

Postgres开源项目近30年来,作者通过基准测试评估其性能变化。由于缺乏比较数据,作者自行收集了多个版本的性能数据,结果显示自Postgres 9.5以来性能显著提升。尽管基准测试较为简单,但对OLTP和OLAP工作负载进行了深入分析,未来改进空间可能有限。

托马斯·冯德拉:性能考古学:在线事务处理(OLTP)

Planet PostgreSQL
Planet PostgreSQL · 2024-11-26T14:00:00Z
本周Python动态

本周Python动态包括:99瓶OOP、24字符Python程序、优质测试工具FireDucks(速度比Pandas快100倍)、DjangoVerProjectspex、实验性wasm32运行时、seqlogic顺序逻辑模拟器、venvstacks虚拟环境堆栈及chDB内置OLAP SQL引擎。

本周Python动态

DEV Community
DEV Community · 2024-11-22T15:37:30Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码