云原生 ·

Kubernetes作为GPU控制平面：HAMi v2.9与下一代AI基础设施

💡 原文英文，约100词，阅读约需1分钟。

📝

内容提要

最近，我关注国内GPU调度和Kubernetes在AI资源管理方面的进展。随着HAMi v2.9的发布，我想分享一些关于AI基础设施控制平面演变的观察，特别是Kubernetes作为AI的GPU控制平面。

🏷️

在 K8s 上跑大模型推理，为什么越来越多人选了 KServe？ - 张善友
KServe是CNCF孵化项目，用于解决AI团队模型上线后的服务管理问题。它不负责GPU推理（由vLLM等引擎承担），而是管理版本、流量切分、扩缩容和回滚...
跟着小螃蟹，看懂 AI 的行动与控制 - 编程一生
文章以“小螃蟹”为例说明AI行动与控制：行动须真正改变外部状态，工具调用不等于成功；控制要依据反馈形成“行动—观察—检查—调整”闭环。需区分建议、尝试与成...
AI Mode广告扩展至新市场
谷歌将AI Mode广告扩展至澳大利亚、加拿大、印度等十国，并计划于2026年第四季度进入巴西、墨西哥和英国。AI Mode查询平均比传统搜索长三倍，用户...
借助 AI 智能体，在 Next.js 中减少 JavaScript 体积
Next.js 16.4 推出面向 AI 智能体的打包优化技能 next-bundle-optimizer，基于 Turbopack 模块图分析导入关系，...
使用AWS Agentic AI Lens自动化智能体AI Well-Architected审查
Smarsh为审查其首个智能体工作负载，将AWS Well-Architected框架的Agentic AI Lens（含150项最佳实践）封装为Clau...
DigitalOcean Signals：面向 AI 代理与推理的可观测性
DigitalOcean 推出 Signals 公开预览版，用于监控生产环境中的 AI 代理对话，可自动识别用户受挫、代理循环、工具失败、限流、上下文耗尽...