小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
应用网络基础指南

文章以电商应用调用API为例,说明网络请求的复杂过程:先经DNS解析IP,可能指向负载均衡器;操作系统决定数据包路由;HTTP请求前需建立TCP连接并完成TLS握手,之后请求才安全发送,由负载均衡器转发至应用实例并返回响应。文章强调网络知识对开发者至关重要,并介绍网络基础术语。

应用网络基础指南

ByteByteGo Newsletter ByteByteGo Newsletter · 2026-09-10T15:31:28Z
Kimi K3 模型结构(8):训练并行,一步训练里谁在等谁

本文介绍Kimi K3模型预训练的并行系统设计,聚焦MoE层expert并行。核心是MoonEP方案:每个rank预留E/R个冗余expert槽位,确保任意router输出都能使各rank计算完全平衡,消除负载不均和动态shape问题。同时用感知负载的GEMM调度解决rank内偏斜,并将视觉编码器计算塞入流水线气泡,减少等待开销。

Kimi K3 模型结构(8):训练并行,一步训练里谁在等谁

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T20:00:00Z
Kimi K3 模型结构(5):宽度维度,Stable LatentMoE

Kimi K3模型采用Stable LatentMoE作为FFN,基于NVIDIA LatentMoE改进,将输入压缩至半宽latent空间,增加RMSNorm稳定训练,用SiTU-GLU激活控制输出,并通过Quantile Balancing实现负载均衡。该模块占模型98%参数,每层激活16个专家,显著提升效率与性能。

Kimi K3 模型结构(5):宽度维度,Stable LatentMoE

Java不加糖's Blog Java不加糖's Blog · 2026-09-05T15:20:00Z
ZGateway:在ZippyDB前部署代理的经验与教训

Meta推出ZGateway代理层,置于ZippyDB键值存储前,统一客户端流量。它通过连接管理、请求批处理、负载均衡和准入控制,将百万级客户端与数据库的密集连接网格压缩为可控层级,降低约97%连接数,支持跨区域容灾,并计划未来实现全流量统一及AI驱动的智能运维。

ZGateway:在ZippyDB前部署代理的经验与教训

Engineering at Meta Engineering at Meta · 2026-09-03T16:00:20Z
你的容器运行。它周围的一切都不应该是你的问题。

亚马逊推出ECS Express Mode,简化容器部署:只需提供容器镜像和IAM角色,即可获得带负载均衡、TLS、自动扩展和金丝雀部署的生产服务。它支持标准ECS任务定义,便于扩展,资源在用户账户内可完全控制,且不覆盖用户修改,删除时自动清理,减少运维负担。

你的容器运行。它周围的一切都不应该是你的问题。

The New Stack The New Stack · 2026-08-29T15:00:00Z

本文介绍Linkerd 2.20数据面linkerd2-proxy的机制:协议探测区分HTTP与opaque TCP;入站/出站处理链经destination流获取端点与策略;负载均衡默认用EWMA,2.20新增Load Biaser,通过HTTP 429或gRPC RESOURCE_EXHAUSTED信号注入惩罚延迟,避免限流风暴。排障需先查控制面轴1-4,勿混读Envoy模型。

【Linkerd】linkerd2-proxy 数据面:入站、出站与限流感知负载均衡

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-23T00:00:00Z

本文介绍HAProxy数据面系列教程,涵盖请求路径、线程调度、HTX/ACL、后端负载均衡、Runtime API与无缝重载等14篇内容,旨在帮助工程师深入理解延迟与失败点,并对比Nginx、Envoy等选型,提供从配置到运维的完整机制路线图。

HAProxy / 数据面代理内核:从 Frontend 到 Seamless Reload

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-12T00:00:00Z

本文是HAProxy数据面代理内核系列文章的首篇,定位其生态位:文件/Runtime驱动的经典L4/L7负载均衡内核,区别于Nginx多进程与Envoy的xDS数据面。文章提出五条坐标系(请求路径、线程共享、协议表示、动态运维、失败归因)作为后续排障的共用语言,并规划14篇阅读路线,涵盖从accept到seamless reload的完整拆解,强调机制分析而非性能对比。

【HAProxy 数据面】数据面全景:从 Frontend 到 Seamless Reload 的代理内核

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-12T00:00:00Z

本文为HAProxy数据面系列终章,通过排除树对比Nginx、Envoy、eBPF选型:HAProxy适合深度L4/L7负载均衡与热改运行态;Nginx偏Web反代;Envoy需API驱动;eBPF仅L3/L4。强调机制优势须支付迁移税,并列出stick-table一致性、QUIC成熟度、运维可观测性等开放问题,建议按排障坐标选型而非品牌口号。

【HAProxy 数据面】选型收束:机制排除树与系列开放问题

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-12T00:00:00Z

本文深入解析HAProxy backend机制,涵盖负载均衡算法(如轮询、最少连接、哈希)在无粘滞会话时的选主逻辑;server maxconn限制并发连接,超出部分进入队列,超时或队列满则返回503;http-reuse策略控制连接复用;fullconn动态调整队列槽位,redispatch与backup实现故障转移。排障时需区分算法、队列、复用三层,并与Envoy进行对比分析。

【HAProxy 数据面】Backend / server / LB:算法、队列与连接复用边界

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-12T00:00:00Z

本文是Envoy数据面系列文章,从Listener到xDS详解可编程代理内核。内容围绕请求路径、配置快照、FilterChainMatch、xDS warming及上游资源五条主线,分16篇深入探讨线程模型、HTTP filter链、Cluster负载均衡、动态配置生效机制及生产排障。适合平台、网关及Mesh数据面工程师,旨在将“能跑”提升至“能归因”,并与Nginx/HAProxy等选型对比。

Envoy / 数据面代理内核:从 Listener 到 xDS

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-10T00:00:00Z

Envoy中Cluster是上游逻辑分组,路由选定名字后,主机选择按优先级、本地性、子集和负载均衡算法逐层收窄。优先级用超额配置健康分数渗漏流量,子集依赖元数据匹配,错误回退会伪装成无上游。选中主机后,连接池、熔断和异常检测决定是否返回503。

【Envoy 数据面】Cluster 与负载均衡:优先级、Locality、Subset 与健康检查入口

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-10T00:00:00Z

本文讨论了FoundationDB的存储架构,重点在于客户端如何直接读取Storage Server,绕过Proxy和Resolver。每个Storage Server管理多个shard,支持异步复制。客户端通过缓存的元数据定位数据,并在5秒内读取版本。文章还探讨了数据迁移、负载均衡机制,以及读路径设计如何提高性能和一致性。

【FoundationDB 内核】Storage Server:Shard、版本读取与读路径

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-17T00:00:00Z

PD(Placement Driver)作为TiKV的调度中心,通过心跳机制收集集群状态,生成调度建议(Operator),并发送给Region Leader。调度过程异步,Leader可选择执行或跳过建议。PD使用Store心跳提供宏观视图,Region心跳提供精确位置。调度的基本单元是Operator,主要目标是负载均衡和副本管理,决策受限于放置规则和调度限制,以确保系统稳定性。

【TiKV / HTAP 内核】PD 元数据与调度:心跳、算子与调度器

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-07-16T00:00:00Z
bitdrift如何在Amazon CloudFront上为直播体育赛事扩展至1.21亿个并发gRPC连接

bitdrift在T20世界杯期间成功处理了1.21亿个并发gRPC连接,关键在于调整DNS路由策略。通过将Route 53的加权路由改为多值响应路由,bitdrift解决了流量集中问题,实现了零服务器错误,确保了高峰时段的稳定性。

bitdrift如何在Amazon CloudFront上为直播体育赛事扩展至1.21亿个并发gRPC连接

AWS Architecture Blog AWS Architecture Blog · 2026-07-15T15:27:47Z
大模型推理路由难题反而催生稀疏注意力?

大模型推理中的路由问题促使稀疏注意力机制的出现。路由的挑战在于平衡负载均衡与缓存感知,避免资源浪费。稀疏注意力通过减少KV块数量来缓解这一问题,但仍面临决策困难。Goodfire的研究提出了通过“知识指针”解决路由问题的新思路。总体而言,路由问题是分布式系统中的长期挑战。

大模型推理路由难题反而催生稀疏注意力?

极道 极道 · 2026-07-14T22:52:00Z

服务端负载均衡(LB)和客户端LB的健康检查机制不同。服务端LB通过中心代理主动探测后端实例,而客户端LB由每个客户端独立探测。健康检查方式包括主动探测、客户端主动探测和被动检测,选择方式取决于系统规模、调用频率和运维能力。服务端LB适合大多数团队,客户端LB在高负载时更有效,两者可结合使用以优化性能。

TIL:服务端 vs 客户端负载均衡的健康检查机制

暗无天日 暗无天日 · 2026-07-09T00:00:00Z
大型平台如何处理每日数百万笔交易

本文探讨了大型平台如何处理海量交易及其面临的工程挑战和架构模式。随着用户增长,系统需快速、准确地处理交易,避免瓶颈和重复交易。通过服务化架构、负载均衡、数据库复制、缓存和异步处理等方法,平台能够提高性能和可靠性。此外,监控系统健康、应对流量高峰和设计容错机制也至关重要。成功的平台能在用户激增时保持快速、准确的交易处理。

大型平台如何处理每日数百万笔交易

freeCodeCamp.org freeCodeCamp.org · 2026-06-13T06:50:15Z
使用vLLM + Qwen3.5部署内网AI笔记

本文介绍了如何在内网使用vLLM和Qwen3.5部署AI模型。部署环境要求为NVIDIA A100/V100 GPU和Ubuntu 22.04 LTS系统。首先安装GPU驱动和CUDA Toolkit,然后通过UV管理Python环境并安装vLLM。接着,使用Hugging Face CLI下载Qwen3.5模型并配置运行参数。最后,利用Nginx进行负载均衡,以确保多GPU的高效使用。

使用vLLM + Qwen3.5部署内网AI笔记

tlanyan tlanyan · 2026-05-25T10:39:20Z
浏览器直接访问正常,过了负载均衡就崩了?只因响应头里多了个空格

文章讨论了一个生产问题:某系统在直接访问时正常,但经过负载均衡后出现连接重置。经过排查发现,后端Java设置响应头时多了一个空格,导致响应头不符合HTTP规范,负载均衡无法处理。浏览器容错性强,直接连接后端没有问题,分享此经验以警示他人。

浏览器直接访问正常,过了负载均衡就崩了?只因响应头里多了个空格

iMaeGoo's Blog iMaeGoo's Blog · 2026-05-23T01:30:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码