基于内容的视频推荐的向量搜索 - Dailymotion的Gladys和Samuel

基于内容的视频推荐的向量搜索 - Dailymotion的Gladys和Samuel

💡 原文英文,约5900词,阅读约需22分钟。
📝

内容提要

Dailymotion的机器学习工程师Gladys和Samuel讨论了如何利用Qdrant构建视频推荐系统。Qdrant支持快速邻居搜索和多语言处理,帮助他们通过视频的文本元数据和转录构建视频嵌入,解决了新视频推荐的冷启动问题,显著提高了点击率。Qdrant的可扩展性和团队支持使其成为理想选择。

🔎

延伸解读

冷启动问题的具体解法

Dailymotion原有的协同过滤推荐依赖用户交互,新视频或小众视频因缺乏观看数据而难以被推荐。他们通过提取视频的文本元数据和自动转录,构建内容嵌入并存入Qdrant,使新上传视频能立即基于内容相似性获得推荐。这一方法直接针对冷启动,尤其适合新闻等时效性强的视频。

多语言嵌入与过滤的工程选择

Dailymotion的视频涵盖超过300种语言,因此选择了多语言通用句子编码器(MUSE)生成文本嵌入,该模型预训练且无需微调,在CPU上仅需几毫秒。同时,Qdrant支持在向量搜索前按元数据过滤,例如按语言筛选,确保推荐结果符合用户的语言偏好,避免跨语言推荐带来的体验下降。

从匹配引擎迁移到Qdrant的考量

团队最初尝试Google Cloud的匹配引擎,但发现其API不易用、无法像Qdrant那样在查询前进行元数据过滤,且托管方案成本高、控制力弱。迁移到Qdrant后,他们获得了更灵活的过滤能力、易于实施的文档以及团队的直接支持,最终在低信号视频上实现了点击率三倍增长。

流式管道与A/B测试支持

Dailymotion使用流式管道处理视频上传或编辑事件,实时计算嵌入并写入Qdrant,确保推荐内容及时更新。此外,Qdrant的集合别名功能让他们能同时运行多个嵌入版本,通过切换别名进行A/B测试,从而平滑地验证新嵌入(如加入转录)对推荐效果的影响。

❓

Q&A

Dailymotion是如何利用Qdrant构建视频推荐系统的?

Dailymotion通过使用Qdrant的快速邻居搜索和多语言处理功能,结合视频的文本元数据和转录,构建了视频嵌入,从而解决了新视频推荐的冷启动问题。

Qdrant在Dailymotion的推荐系统中有哪些优势?

Qdrant支持快速邻居搜索、可扩展性和多语言处理,能够满足Dailymotion的技术需求,并显著提高了用户的点击率。

Dailymotion如何解决新视频推荐的冷启动问题?

Dailymotion通过构建视频嵌入,利用视频的文本元数据和转录信息,来推荐新视频,从而有效解决了冷启动问题。

使用Qdrant后,Dailymotion的用户参与度有何变化?

使用Qdrant后,Dailymotion的点击率提高了三倍,显著改善了用户参与度。

Dailymotion在视频推荐中使用了哪些技术?

Dailymotion在视频推荐中使用了文本元数据、转录、视频嵌入和Qdrant的向量搜索技术。

Qdrant的可扩展性对Dailymotion有什么重要性?

Qdrant的可扩展性使Dailymotion能够处理大量视频和每日超过1300万的推荐请求,确保推荐系统的高效运行。

🏷️

标签

➡️

继续阅读