语文+数学:语言符号可实现嵌入、向量和算术操作
💡
原文中文,约700字,阅读约需2分钟。
📝
内容提要
嵌入是对文字的表示,以数学向量形式存在。可以对向量集进行计算,如根据表情符号搜索。语义加法是将两个表情符号相加并查看最接近的结果。在Prodia研究如何构建安全系统。嵌入可以代表音频或视频,多模态搜索也许不遥远。
🎯
关键要点
- 嵌入是对文字的表示,以数学向量形式存在。
- 嵌入可以进行各种计算,如根据表情符号搜索。
- 表情符号的向量表示是基于 OpenAI 的 Ada 模型计算的。
- 搜索结果通过欧氏距离或余弦相似度计算最接近的表情符号向量。
- 语义加法是将两个表情符号相加并查看最接近的结果。
- Prodia 研究如何构建安全系统,通过检查输入提示的距离阈值。
- CompVis 小组创建了安全过滤器,处理图像后进行算术运算。
- 未来的语义搜索将更加模糊,可能不再需要传统的文件和组织。
- 嵌入不仅可以表示文本,还可以表示音频或视频,未来多模态搜索可能实现。
➡️