随着大型语言模型(LLMs)在实际应用中的普及,确保其安全性变得尤为重要。本文介绍了一种“提示泄露探测框架”,用于检测LLMs的潜在泄露风险。该框架通过预设的测试端点评估模型安全性,自动化检测过程,以防敏感信息泄露。
完成下面两步后,将自动完成登录并继续当前操作。