绿盟科技CERT监测到开源AI框架Xinference在PyPI遭受供应链攻击，攻击者发布了3个恶意版本（2.6.0、2.6.1和2.6.2），窃取用户敏感数据。建议用户立即降级至安全版本2.5.0并进行全面排查与防护。此事件强调了开源组件的安全审计和供应链安全的重要性。

OpenAI是人工智能技术的领导者，其开源语言模型Llama和ChatGLM备受欢迎。GreptimeAI和Xinference提供了监控和部署大型语言模型的解决方案。GreptimeAI提供实时可观察性，用于成本、性能、流量和安全性的监控，而Xinference简化了AI模型的操作和集成。文章介绍了如何使用Xinference安装和运行Llama 2模型，以及如何使用GreptimeAI监控模型的性能。它还强调了Xinference在运行推理和访问OpenAI接口方面的能力。文章最后推荐使用Xinference和GreptimeAI开发和监控大型语言模型应用。