小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
PD 分离详解:Prefill 与 Decode 的瓶颈、拆分与代价

PD分离将LLM推理的Prefill(计算密集)与Decode(显存带宽密集)阶段拆分至独立资源池,以隔离干扰、优化TTFT和ITL,并允许按需配置硬件。它通过KV Cache传输衔接两阶段,但增加调度、网络和资源开销。仅当共置优化(如Chunked Prefill)无法满足SLO或资源需求不对称时,才值得采用。

PD 分离详解:Prefill 与 Decode 的瓶颈、拆分与代价

探索云原生 探索云原生 · 2026-09-02T20:00:00Z
时间序列基数:为什么多一个索引列比多一百万行数据代价更高

制造业IIoT产生高频传感器数据,传统数据库难以处理。文章指出五大趋势及数据层解决方案,并举例说明TimescaleDB如何优化PostgreSQL,实现存储减少83%、查询提速979倍,解决工业4.0数据挑战。

时间序列基数:为什么多一个索引列比多一百万行数据代价更高

Timescale Blog Timescale Blog · 2026-08-28T16:29:32Z
亚历山大·约菲:覆盖索引的代价是什么?

在2M行PostgreSQL 17上,覆盖索引比单列索引写入慢28%(INSERT)和25%(UPDATE),但读取快1.26倍。当写入低于每分钟约4300次时,覆盖索引更划算;否则单列索引更优。存储占用112MB对18MB。建议先设置random_page_cost=1.1,默认用单列索引,仅在需要时添加覆盖索引。

亚历山大·约菲:覆盖索引的代价是什么?

Planet PostgreSQL Planet PostgreSQL · 2026-08-17T00:00:00Z
通过扮演聊天机器人,以AI为代价博君一笑

该文章介绍了一个名为“Your AI Slop Bores Me”的趣味网站,用户可扮演人类或AI角色互动。一方提交请求,另一方在150秒内以文字或图像回应,模拟聊天机器人。游戏采用积分制,需通过回答他人请求赚取积分,也可等待免费请求。尽管广告较多,但角色扮演的乐趣和创意回应使其成为消遣好选择。

通过扮演聊天机器人,以AI为代价博君一笑

The Verge The Verge · 2026-08-15T20:45:00Z

Ceph的ECBackend实现中,整条带写无需读旧数据,而部分写需读改写(RMW),增加延迟。EC修复从k个存活分片重建缺失分片,网络效率优于副本池。EC池空间效率高(4+2为1.5倍),但随机小写延迟高,适合顺序大写场景如RGW。allow_ec_overwrites支持覆盖写,但RMW代价仍在。编码插件有Jerasure、ISA-L等,LRC可降低重建读取。

【Ceph RADOS】EC 路径:ECBackend、整条带写与 RMW 的代价模型

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-14T00:00:00Z

CephFS将POSIX文件系统构建于RADOS之上,MDS作为可恢复状态机,通过journal持久化元数据。其核心挑战包括:MDS故障恢复、capability机制维持客户端缓存一致性、多active MDS的subtree迁移可能引发thrashing,以及fsync/stat操作的高网络往返成本。相比RBD,CephFS在元数据面(journal、caps、subtree、dirfrag)付出更高代价,快照需客户端协作,性能与一致性权衡复杂。

【Ceph RADOS】CephFS / MDS:可恢复元数据服务、subtree 分区与 POSIX 代价

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-14T00:00:00Z

捷径如同信用卡,提前支取未来,但账单终将偿还且带利息。危险在于误把借来的能力当自身财富。判断捷径需看省掉什么、欠下什么,好的捷径压缩已掌握过程,坏的则用未备能力换早到结果。目标决定路径,若求成为能反复抵达的人,过程即目标。时间须换更有价值之物才算节省,承认抄近路并补课,避免转嫁代价,最终获得判断力:知何可省,何须亲历。

捷径

Limboy Limboy · 2026-08-12T00:00:00Z
Meta Muse Code 对比 Fable 5:Meta Muse 更便宜,但代价是什么?

Meta发布AI编程代理Muse Code,价格低于Claude Code,但默认使用贡献者层级,代码可能用于训练。测试显示两者修复bug能力相当,但Claude重构更彻底、代码更干净,Muse虽便宜但需专家审查,省下的成本可能转为审查时间。

Meta Muse Code 对比 Fable 5:Meta Muse 更便宜,但代价是什么?

The New Stack The New Stack · 2026-08-10T15:00:00Z

本文比较图数据库四种邻接布局(边表、CSR、指针链、Block内联)的代价模型,分析一次hop与k跳扩张的差异。核心观点:大O相同但常数、局部性、更新代价不同;幂律图超节点主导事故形态;选型需关注k、f、d_max和更新频率四个旋钮,而非品牌之争。

【图数据库内核】邻接的代价模型:边表 JOIN、CSR 与原生指针为何不是同一件事

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-08T00:00:00Z

本文深入剖析BERT架构的机制与证据:MLM的80/10/10掩码策略在微调与特征提取场景影响不同;NSP被RoBERTa质疑的证据链复杂,其必要性取决于输入打包方式;BERT作为马尔可夫随机场可用吉布斯采样生成文本,但代价高昂;后续如ModernBERT等仍在升级Encoder-only路线,因其在分类、检索等任务上仍有成本优势。

【Transformer 与注意力机制】37|BERT:MLM、NSP 与 Encoder-only 路线的代价

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-08T00:00:00Z

价值观是回答“什么值得”的排序,而非列举;清单免费,排序昂贵。它功能是省事,让选项不再计算。未探究会套用社会默认,嫉妒比成就感诚实,环境大于反思。只有付出代价时价值观才被测量,观察时间、金钱、注意力流向可反推真实价值观。

价值观

Limboy Limboy · 2026-08-08T00:00:00Z

T5论文的核心贡献在于统一文本输入输出框架,并通过系统消融实验揭示了关键细节:span corruption的破坏率与平均跨度、任务前缀易被模型当作格式捷径、Encoder-Decoder结构在推理时的缓存复杂性,以及C4语料清洗规则隐含的归纳偏置。Text-to-Text框架在分类和检索任务上的适用性仍存争议,生成式检索在百万级语料上的扩展性问题尚未解决。

【Transformer 与注意力机制】39|T5:把所有 NLP 任务塞进 Text-to-Text,代价在哪里

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-06T00:00:00Z
编排者的代价

子代理的真正价值在于保护主代理的工作记忆,而非并行速度。通过将噪声推理隔离在子代理上下文中,避免污染主线程,可提升长期多代理工作的效率。需按认知局部性分配任务,并明确委派规则。

编排者的代价

Martin Fowler Martin Fowler · 2026-07-28T13:10:00Z
索尼抛弃实体游戏光盘,谁成为了转型代价?

索尼正逐步放弃实体游戏光盘,转向全数字发行,以压缩供应链成本、提升利润率,并顺应游戏行业服务化趋势,同时满足ESG监管要求。尽管引发玩家强烈反对,但索尼作为主机市场领导者,为追求更高增长和掌控玩家数据,几乎不可能回头,这将彻底改变游戏交易模式。

索尼抛弃实体游戏光盘,谁成为了转型代价?

少数派 少数派 · 2026-07-28T03:02:53Z

本文介绍SQLite查询计划器:通过EXPLAIN QUERY PLAN区分SEARCH/SCAN访问路径;ANALYZE写入sqlite_stat1统计信息,无统计时用默认猜测(表百万行、索引重复度10);连接顺序采用N3启发式算法(O(KN)),放弃穷举最优,但存在star-query贪心短板。文章强调SQLite计划器与PostgreSQL CBO复杂度目标不同,统计不自动更新,EQP格式仅供调试。

【SQLite 内核】查询计划器与统计:没有 ANALYZE 时的启发式与代价估计边界

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-18T00:00:00Z
微软首席执行官萨提亚·纳德拉表示,您为人工智能支付了两次费用——第二次的代价更为严重

微软首席执行官纳德拉在社交媒体上讨论了企业AI的隐性成本,称其为“反向信息悖论”。他指出,企业在使用AI时需分享专有知识以获得最佳效果,这使得企业在经济和知识上都付出了代价。纳德拉强调,企业应掌握自己的学习循环,避免将知识转交给AI模型提供商,以确保投资的价值留在企业内部。

微软首席执行官萨提亚·纳德拉表示,您为人工智能支付了两次费用——第二次的代价更为严重

The New Stack The New Stack · 2026-07-13T22:06:26Z

本文讨论了对象存储在Milvus 2.6.x版本向量检索引擎中的应用。对象存储用于保存日志快照、索引文件和查询结果,布局从按字段拆分转向按段整合,以减少API调用次数和延迟。文章还探讨了数据处理路径、索引对象与数据对象的生命周期差异,以及与湖仓对象布局的对比,强调了优化存储布局的重要性。

【向量检索引擎】对象存储上的 Segment 布局:快照、索引与寻址代价

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-12T00:00:00Z

CRDT(无冲突复制数据类型)是一种特殊的数据结构,允许各节点独立写入并最终合并,以确保一致性。其核心思想是通过满足交换律、结合律和幂等律来保证合并结果的一致性。CRDT包括G-Counter(只增计数器)、PN-Counter(可增减计数器)和LWW-Register(最后写入者胜出寄存器)。尽管CRDT在协同编辑和分布式系统中应用广泛,但其元数据开销和最终一致性限制需谨慎考虑。

CRDT 入门:不靠共识也能合并——但代价是什么

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-10T00:00:00Z

本文讨论了优化器在 SQL 查询中的重要性,特别是 Apache Calcite 和 Trino 的关系。Calcite 提供逻辑计划和优化规则,而 Trino 则采用自研规划器,借鉴 Calcite 的代数思想。文章还介绍了物理计划的执行约定、优化规则及其在 Trino 中的实现,强调了优化阶段的流水线和调试手段。

【分布式 OLAP 查询引擎】Calcite 与规则/代价优化框架

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-07T00:00:00Z

CBO(基于成本的优化器)在OLAP引擎中通过基数估计和代价常量做出决策,影响连接算法和顺序。统计信息对优化至关重要,直接影响查询性能。Trino和DuckDB的统计机制不同,DuckDB通过内置估计提高计划准确性。统计过期会导致错误的连接顺序,因此需定期更新统计信息以优化查询。

【分布式 OLAP 查询引擎】统计信息与代价模型

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-07T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码