语文+数学:语言符号可实现嵌入、向量和算术操作

💡 原文中文,约700字,阅读约需2分钟。
📝

内容提要

嵌入是对文字的表示,以数学向量形式存在。可以对向量集进行计算,如根据表情符号搜索。语义加法是将两个表情符号相加并查看最接近的结果。在Prodia研究如何构建安全系统。嵌入可以代表音频或视频,多模态搜索也许不遥远。

🎯

关键要点

  • 嵌入是对文字的表示,以数学向量形式存在。
  • 嵌入可以进行各种计算,如根据表情符号搜索。
  • 表情符号的向量表示是基于 OpenAI 的 Ada 模型计算的。
  • 搜索结果通过欧氏距离或余弦相似度计算最接近的表情符号向量。
  • 语义加法是将两个表情符号相加并查看最接近的结果。
  • Prodia 研究如何构建安全系统,通过检查输入提示的距离阈值。
  • CompVis 小组创建了安全过滤器,处理图像后进行算术运算。
  • 未来的语义搜索将更加模糊,可能不再需要传统的文件和组织。
  • 嵌入不仅可以表示文本,还可以表示音频或视频,未来多模态搜索可能实现。
🏷️

标签

➡️

继续阅读