在运行大型语言模型（LLM）时，需关注安全风险，包括提示注入、敏感信息泄露、供应链风险和过度自主性。建议在应用层实施输入验证和输出过滤，并通过政策层管理这些风险，以确保模型行为符合安全标准。

大型语言模型（LLMs）有时会产生“幻觉”，即给出自信但错误的回答，主要分为忽视上下文和脱离现实两类。幻觉的原因包括训练数据质量差、猜测、模糊提示和记忆问题。研究者们通过改进数据、智能提示和输出过滤等方法来解决这些问题，了解幻觉的原因有助于更好地使用这些模型。