蚂蚁集团WAIC发布大模型密算平台，助力大模型破解数据供给挑战
内容提要
蚂蚁集团发布了“隐语Cloud”大模型密算平台，保护大模型资产、数据安全和用户隐私。该平台提供大模型密态托管和推理服务，支持GPU计算和端到端加密。蚂蚁集团已开源核心技术，并与高校合作。成立了密态计算公司，提供数据安全保障、计算加速解决方案和隐私计算云服务平台。
延伸解读
大模型行业落地的数据瓶颈
文章指出，高质量数据供给和安全流通是大模型进入垂直产业应用的首要挑战。专业数据分散在不同机构且保密要求高，难以流动；企业、大模型厂商和用户之间存在信任壁垒，分别担心数据泄露、模型资产安全和隐私风险。这些因素共同制约了大模型在专业领域的深入应用。
密态托管与推理如何运作
隐语Cloud首批推出大模型密态托管和密态推理两大服务。托管允许模型提供方加密后托管模型，一键完成云上密态部署，防止模型资产泄露；推理则让数据以密态形式完成计算，保护用户交互时的数据安全和商业机密。平台支持GPU在可信执行环境下计算，使密态推理的响应时间和效率接近明文大模型。
私有化部署的局限与云化密算的替代
文章提到，许多企业为应对数据安全挑战采用私有化部署，但这增加了运维和服务成本，影响对外服务的效率和质量，也不利于多方数据跨领域、跨行业高效融合。隐语Cloud提供公有云和专有云方案，支持主流通用大模型，用户一键部署，10分钟即可发布高可用推理服务，按需获取密态算力。
蚂蚁的隐私计算积累与生态布局
蚂蚁集团自2016年探索隐私计算，覆盖全栈可信技术、多方安全计算、联邦学习、同态加密、差分隐私、机密计算等领域。其核心技术已全部开源，包括隐语框架和星绽Occlum操作系统，并参与制定60多项国内外标准。蚂蚁还成立了独立运营的密态计算公司，与高校合作推动数据安全可信流通。
Q&A
隐语Cloud大模型密算平台的主要功能是什么？
隐语Cloud平台主要提供大模型密态托管和推理服务，保护模型资产和用户数据安全。
蚂蚁集团如何解决大模型数据供给的挑战？
蚂蚁集团通过隐语Cloud平台实现数据密态流转，确保高质量数据的安全流通。
隐语Cloud平台支持哪些计算环境？
该平台支持在可信执行环境下进行GPU计算，提升推理效率。
蚂蚁集团在隐私计算技术方面有哪些成就？
蚂蚁集团已开源核心技术，并参与制定60多项隐私计算技术标准。
隐语Cloud平台如何保障用户数据安全？
平台利用内存和磁盘加密等方法，实现端到端加密和跨域访问控制。
蚂蚁集团的密态计算公司提供哪些服务？
该公司提供数据安全保障、计算加速解决方案和隐私计算云服务平台。
