VaultGemma是谷歌基于Gemma 2训练的1B参数LLM，采用差分隐私技术以防止模型记忆训练数据。尽管仍为研究模型，但可应用于医疗、金融和法律等领域。差分隐私通过向训练数据注入噪声来保护个体信息。谷歌研究者探索了在保证隐私的同时优化模型性能的训练配置。VaultGemma在多个基准测试中表现与GPT-2相当，是目前最大的差分隐私LLM。