小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
KServe 集成 KEDA:基于 vLLM 指标自动扩缩容

本文介绍如何为KServe模型服务接入KEDA,实现基于vLLM指标的自动扩缩容。通过安装KEDA和Prometheus,配置InferenceService和ServiceMonitor,利用vLLM暴露的请求指标,KEDA查询Prometheus数据并驱动HPA调整副本数。实测验证了服务从1个副本扩至2个再缩回1个的完整流程,有效平衡突发请求与资源利用率。

KServe 集成 KEDA:基于 vLLM 指标自动扩缩容

探索云原生 探索云原生 · 2026-08-26T20:00:00Z
基于Amazon SQS队列深度的KEDA Kubernetes Pod自动缩放

本文介绍如何在Amazon EKS上使用KEDA基于SQS队列深度进行自动缩放。核心思想是:对于异步队列工作负载,队列积压量比CPU/内存利用率更能反映真实需求。文章涵盖KEDA安装、AWS身份配置、ScaledObject设置、副本计算逻辑(期望副本数=积压消息数/queueLength),以及验证、故障排查和生产调优建议,帮助实现事件驱动架构的高效弹性伸缩。

基于Amazon SQS队列深度的KEDA Kubernetes Pod自动缩放

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-07-31T11:00:00Z
如何构建一个耐用的、自动扩展的AI代理,使用Temporal、Composio、KEDA和Kubernetes

本文讨论了如何构建一个耐用的后台代理运行时,利用Kubernetes和KEDA实现自动扩展。文章介绍了任务调度、崩溃恢复和代理能力的实现,使用Temporal确保任务的持久性。用户提交任务后,系统在后台处理,用户无需等待。通过分离控制平面和执行平面,确保系统高效运行。最终,读者将掌握构建和部署可扩展AI代理的核心概念和步骤。

如何构建一个耐用的、自动扩展的AI代理,使用Temporal、Composio、KEDA和Kubernetes

freeCodeCamp.org freeCodeCamp.org · 2026-06-23T16:17:04Z
AI 时代,你的 HPA 可能已经失灵了

在AI时代,传统的水平自动扩缩容(HPA)在处理AI推理服务时失效,因为HPA假设资源使用率与负载成正比,而GPU显存常驻,计算使用率与请求量不成正比。KEDA通过监控消息队列的积压情况来决定扩缩容,克服了HPA的局限性,适用于异步处理场景。

AI 时代,你的 HPA 可能已经失灵了

探索云原生 探索云原生 · 2026-06-11T20:00:00Z
基于 KEDA 的 Kubernetes GPU 自动扩展:构建外部扩展器

KEDA 通过自定义 DaemonSet 解决 Kubernetes 中 GPU 工作负载的自动扩展问题。它利用 NVIDIA 管理库 (NVML) 收集 GPU 指标,如利用率、内存和功耗,并通过 gRPC 提供给 KEDA 操作员,从而实现基于 GPU 性能的自动扩展。这种方法提高了资源利用率,降低了能耗,适用于多种 GPU 工作负载。

基于 KEDA 的 Kubernetes GPU 自动扩展:构建外部扩展器

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-05-27T11:00:00Z
Argo CD 3.3 带来了更安全的 GitOps 删除和更顺畅的日常操作

Argo CD 3.3版本发布,增强了GitOps工具,新增PreDelete钩子、OIDC令牌自动刷新和Git仓库浅克隆功能,提升了删除安全性和用户体验。同时改进了集群资源控制和KEDA支持,优化了配置管理,增强了多应用部署能力。

Argo CD 3.3 带来了更安全的 GitOps 删除和更顺畅的日常操作

InfoQ InfoQ · 2026-02-28T23:30:00Z
在 AWS 上构建事件驱动的弹性 Kubernetes 应用:结合 EKS + KEDA 的架构升级与实践

加勒比熊猫成立于2019年,专注于海外知识分享和休闲游戏市场,开发高品质App和游戏,累计下载超过1.5亿。为应对全球市场流量波动,采用基于Flask的自定义指标服务与KEDA结合,实现精准弹性伸缩,降低资源成本,提高系统响应能力。

在 AWS 上构建事件驱动的弹性 Kubernetes 应用:结合 EKS + KEDA 的架构升级与实践

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2026-01-07T02:15:46Z
高效的自动扩展:在开源项目中兼顾性能、可靠性和成本

在汉堡的ContainerDays上,Kelsey Hightower提出了一个问题:为何我们仍在讨论容器?即使在AI时代,云原生社区依然在优化容器编排、可扩展性和效率。开源项目KEDA和Karpenter帮助在Kubernetes中平衡性能、可靠性和成本,KEDA通过智能扩展工作负载,Karpenter按需提供节点,确保资源高效利用。

高效的自动扩展:在开源项目中兼顾性能、可靠性和成本

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2025-10-16T16:30:52Z
What Projects I Follow Updated This Week - 20250422

每周五更新重要版本信息,记录新版本发布,忽略bug修复。列出Keda、Gitea、SafeLine等多个项目的最新版本链接。

What Projects I Follow Updated This Week - 20250422

bboysoul的博客 bboysoul的博客 · 2025-04-22T14:25:00Z
扩展Kubernetes应用程序:HPA、VPA、KEDA及其他

Kubernetes的扩展依赖HPA、VPA和KEDA等工具的协同工作。HPA根据负载动态调整pod数量,VPA优化pod资源配置,KEDA则根据外部事件进行实时扩展。Cluster Autoscaler负责集群节点扩展,避免资源浪费。有效的监控和预测提升系统弹性与响应能力。

扩展Kubernetes应用程序:HPA、VPA、KEDA及其他

DEV Community DEV Community · 2025-04-19T20:46:39Z
KEDA在AKS上的深入探讨

KEDA(Kubernetes事件驱动自动扩展)通过特定事件自动扩展容器化工作负载,用户可设置Cron作业在流量高峰时增加资源,以确保应用性能。本文介绍了KEDA的安装、配置及在Azure Kubernetes服务中的应用,强调事件驱动扩展的重要性。

KEDA在AKS上的深入探讨

DEV Community DEV Community · 2025-03-14T00:04:02Z
使用KEDA优化Kubernetes扩展:平衡性能与成本效率

自动化是DevOps工程师在Kubernetes生态系统中的核心,KEDA(Kubernetes事件驱动自动扩展)使应用能够根据外部事件源动态扩展,解决了传统扩展机制在闲置时无法降至零的问题。KEDA结合主动和被动扩展策略,在高流量时保持活跃副本,低流量时降低资源消耗,从而实现资源利用和成本优化。

使用KEDA优化Kubernetes扩展:平衡性能与成本效率

DEV Community DEV Community · 2025-02-25T09:52:08Z
在GKE中使用KEDA HTTP附加组件启用基于HTTP的自动扩展

本文介绍了在Google Kubernetes Engine上设置KEDA(Kubernetes事件驱动自动扩展器)及其HTTP附加组件的过程。作者面临集群资源限制和扩展问题,通过调整Python应用程序和使用HTTPScaledObject解决了这些问题。尽管成功触发了水平Pod自动扩展器,但KEDA的HTTP附加组件仍未正常工作。

在GKE中使用KEDA HTTP附加组件启用基于HTTP的自动扩展

DEV Community DEV Community · 2025-02-10T08:17:05Z
KEDA HTTP附加组件在Kubernetes中如何实现HTTP请求的自动扩展

KEDA HTTP附加组件为Kubernetes中的HTTP应用提供智能自动扩展解决方案,通过拦截器、外部扩展器和操作员等组件,解决不可预测流量和零扩展需求,实现基于HTTP请求的动态扩展,确保应用响应用户需求。

KEDA HTTP附加组件在Kubernetes中如何实现HTTP请求的自动扩展

DEV Community DEV Community · 2025-02-05T11:47:16Z
使用KEDA扩展Spin应用

SpinKube与KEDA结合可实现基于实时事件驱动的Spin应用高效扩展,开发者通过Kubernetes优化资源使用、降低成本、应对不同负载,同时享受WebAssembly的性能与安全性。

使用KEDA扩展Spin应用

DEV Community DEV Community · 2024-12-20T21:48:46Z
Deezer使用自定义指标优化Kubernetes自动扩展

Deezer使用自定义指标优化Kubernetes扩展。由于默认的CPU和内存指标不适用,Deezer通过Prometheus收集事件循环利用率(ELU)作为自定义指标,更准确地反映服务器负载。尽管增加了复杂性,他们通过调整Prometheus Adapter确保高可用性,并探索KEDA等工具提升灵活性。

Deezer使用自定义指标优化Kubernetes自动扩展

InfoQ InfoQ · 2024-10-07T09:00:00Z

本文介绍了如何使用CloudWatch作为触发器,并设置ScaledObject的配置来基于HTTP请求的数量进行自动扩缩容。配置包括最大和最小副本数、轮询间隔、触发器类型、认证参数等。同时提到了如果使用Prometheus本地部署,则不需要TriggerAuthentication。

使用Keda基于HTTP请求进行部署扩缩容

DEV Community DEV Community · 2024-09-17T07:12:26Z

企业需要高效处理大量数据和事件。事件驱动的工作流可以解决这个问题。Amazon EKS提供托管的Kubernetes服务,简化了Kubernetes的运行。KEDA根据事件数量扩展应用程序,优化资源使用。Karpenter是开源的Kubernetes集群自动缩放器,优化成本和工作负载性能。本文将讨论如何设置和运行事件驱动的工作流。

使用 Amazon EKS、KEDA 和 Karpenter 部署可扩展且具成本效益的事件驱动工作负载

DEV Community DEV Community · 2024-08-26T08:10:29Z
基于 KEDA 实现 Job 任务动态扩缩容

本文介绍了使用KEDA调度Job任务解决Kubernetes动态扩缩容问题的方案,包括替换组件、引入KEDA和Karpenter能力,以及使用Amazon SQS和EKS等。文章还介绍了组件介绍和环境搭建步骤,并通过Demo验证了方案的可行性。

基于 KEDA 实现 Job 任务动态扩缩容

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2023-08-30T02:55:53Z

1. HPA VS KEDA HPA 也实现了: 自定义指标的弹性 Scale to Zero 这些与 KEDA 相比较,并不算劣势了。 真正的差别在于 HPA 只能利用监控数据进行伸缩,而 KEDA 可以利用更多数据来源进行伸缩,比如队列消息、数据库、Redis 等,当然也包括监控数据。 从 Kubernetes-based Event Driven Autoscaler (KEDA)...

使用 KEDA 自动伸缩 Kubernetes 应用

陈少文的博客 陈少文的博客 · 2023-05-18T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码