Chainguard推出用于AI框架的CPU/GPU容器

Chainguard推出用于AI框架的CPU/GPU容器

💡 原文英文,约1100词,阅读约需4分钟。
📝

内容提要

Chainguard开发了一种减少AI模型和大型语言模型容器漏洞的过程。他们提供了针对AI定制的CPU和GPU容器镜像,包括PyTorch、Conda和Kafka。这些镜像经过加固和精简,没有任何CVE漏洞。Chainguard通过实时检查漏洞并迅速修补任何新的CVE来解决安全问题。他们还提供了学习中心Chainguard Academy,帮助用户理解和利用他们的容器镜像。目标是简化和保护AI/ML堆栈,使企业能够专注于创新而不必管理基础设施。

🔎

延伸解读

AI容器安全:从模型转向基础设施

当前AI安全讨论多聚焦于模型安全和提示注入,但Chainguard产品经理Dan Fernandez指出,托管模型和应用的基础设施同样需要强健安全。Chainguard的加固容器镜像针对常被忽视的组件,如PyTorch、Conda和Kafka,减少漏洞,从而强化AI部署的基础。这提醒企业,在关注模型本身的同时,不应忽略底层容器的安全状况。

漏洞数量对比:官方镜像与加固镜像

根据Grype漏洞扫描器2024年7月24日的扫描结果,Docker Hub上官方PyTorch运行时镜像包含1个严重、23个高危、1189个中危和72个低危CVE。而Chainguard的PyTorch加固镜像目前为零CVE,且新漏洞通常在数小时内修补。这一对比直观显示了加固镜像在减少漏洞暴露方面的潜在优势,但需注意漏洞数量会随时间变化。

精简与可追溯:加固容器的额外特性

除了减少漏洞,Chainguard镜像还注重去除冗余,保持精简,其磁盘占用小于同类官方镜像,这对超大型框架和库尤为重要,可避免撑爆自动化容器扫描器。每个镜像附带软件物料清单(SBOM),列出所有软件制品,并可通过签名构建配置实现可复现。这些特性有助于提升供应链透明度和部署可靠性。

上手与学习:降低采用门槛

Chainguard提供开发版和运行时版镜像,开发版包含训练或开发工具,生产版建议用于推理等任务。用户可通过简单的docker pull命令从Chainguard镜像目录获取PyTorch等GPU镜像,文档提供了运行pytorch-cuda12的步骤。此外,Chainguard Academy以游戏化方式教授如何使用AI/ML加固容器镜像,完成课程后团队还会提供实际帮助,降低了安全容器技术的采用门槛。

❓

Q&A

Chainguard的容器镜像有什么特点?

Chainguard的容器镜像经过加固和精简,确保没有CVE漏洞,适合AI模型和大型语言模型使用。

Chainguard如何解决AI模型的安全问题?

Chainguard通过实时检查漏洞并迅速修补新的CVE,确保其容器镜像的安全性。

Chainguard Academy提供什么样的学习资源?

Chainguard Academy提供课程,帮助用户理解和使用AI/ML加固容器镜像,并通过游戏化学习过程提升学习体验。

Chainguard的容器镜像与官方镜像相比有什么优势?

Chainguard的容器镜像比官方镜像更小,经过加固,且没有CVE漏洞,适合超大框架和库。

如何开始使用Chainguard的PyTorch镜像?

用户只需使用'docker pull'命令即可下载Chainguard的PyTorch镜像,后续步骤可参考Chainguard的文档。

Chainguard的容器镜像如何支持AI/ML应用的开发?

Chainguard的容器镜像简化了AI/ML堆栈的管理,使企业能够专注于创新,而不必担心基础设施的安全性。

🏷️

标签

➡️

继续阅读