在2025年OpenInfra峰会上,NVIDIA强调AI开发者应结合Kata Containers和保密计算,以安全地在GPU上运行敏感工作负载。Kata提供轻量级虚拟机隔离,保密计算确保内存数据加密,防止云服务商访问模型和数据。NVIDIA致力于平衡GPU性能与安全性,支持PCIe拓扑和设备映射,以优化AI工作负载。
ObfuscaTune是一种结合混淆技术和保密计算的新方法,用于在第三方云提供商的计算基础设施上对私有数据进行推理和微调,同时保护数据可用性。该方法在四个NLP基准数据集上验证了其有效性,并与朴素版本进行了比较。
该研究提出了一种名为ObfuscaTune的新方法,结合混淆技术和保密计算,在第三方云提供商的计算基础设施上对私有数据进行推理和微调。通过验证四个NLP基准数据集,证明了该方法的有效性,并强调了使用低条件数的随机矩阵来减少混淆引起的错误的必要性。
本文介绍了保密计算的定义、客户采用模式、当前挑战和未来发展。保密计算是基于硬件的可信执行环境,适用于多方计算和分析、医疗保健、金融服务等受监管行业,可以解决数据共享的隐私和合规问题。当前挑战包括可用性、采用难度、性能和互操作性、行业认知等方面。未来,保密计算将成为所有计算任务的标准,需要行业合作推动发展。
完成下面两步后,将自动完成登录并继续当前操作。