实时互动行业周刊【第 6 期】
内容提要
微软、OpenAI、英特尔、谷歌、英伟达等科技巨头成立开源大模型安全联盟CoSAI。微软亚洲研究院提出Q-Sparse实现了LLMs激活的完全稀疏性。GPT-4o mini团队中有5位华人面孔。摄像头拉流方法越来越行不通。风噪抑制方案解析。
延伸解读
大模型安全联盟成立的行业意义
微软、OpenAI、英特尔、谷歌、英伟达等十多家科技巨头联合成立CoSAI，专注于AI大模型安全部署和应用。这反映出行业对开源大模型安全问题的共同关注，可能推动安全标准的建立，但联盟的具体运作方式和约束力尚不明确，实际效果有待观察。
Q-Sparse技术突破与推理优化
微软亚洲研究院提出的Q-Sparse实现了LLMs激活的完全稀疏性，并揭示了推理优化规模法则等新发现。该技术与BitNet正交互补，支持从头训练、持续训练和微调，有望提升推理效能，但实际部署中的兼容性和性能提升幅度仍需验证。
摄像头拉流方案面临的挑战
摄像头拉流作为成熟的视频监控调取方法，近年来在许多项目中越来越行不通。文章探讨了原因，可能涉及网络环境、安全策略或设备兼容性等问题。这提醒从业者需关注传统方案的局限性，探索替代方案以适应新需求。
AV1编码的产业优势与挑战
七牛云基于AV1的转码系统实践显示，AV1在相同画质下码率比H.265低约20%，且专利免费、生态支持广泛，尤其是浏览器支持，成为推广的重要原因。然而，AV1的编码复杂度较高，实际部署需权衡计算成本与收益。
Q&A
CoSAI联盟的主要目标是什么？
CoSAI联盟专注于AI大模型的安全部署和应用。
Q-Sparse技术如何优化LLMs的推理效能？
Q-Sparse实现了LLMs激活的完全稀疏性，优化了推理效能并支持多种训练方式。
GPT-4o mini团队的组成有什么特别之处？
GPT-4o mini团队中有5位华人面孔，团队表现超越了Gemini 1.5 Flash和Claude 3 Haiku。
为什么摄像头拉流方案逐渐失效？
摄像头拉流方案在许多项目中失效的原因尚需探讨，可能与技术发展和应用场景变化有关。
风噪抑制方案有哪些技术？
风噪抑制方案包括多种技术，旨在有效跟踪和减少风噪对音频质量的影响。
如何利用SRT协议构建直播Demo？
可以通过OBS Studio和SRT Streamer向流媒体服务器进行SRT直播推流来构建直播Demo。
