值得关注的雷达趋势：2024 年 7 月
内容提要
O'Reilly的文章介绍了2024年7月的几项新兴技术趋势，包括字体嵌入AI、使用AI消除阴谋论、AI数花预测农作物产量、为AI生成的音频添加水印、使用多种外部工具响应提示的模型、生成短视频的AI工具、从GPT和Claude模型中提取特征的研究、使用AI解码狗的叫声、苹果整合基于Transformer的语言模型、用于代码生成的新型语言模型、使用AI改善隐私、从学术论文中提取要点的实验性工具等。
延伸解读
AI 嵌入字体的安全隐患
llama.ttf 字体嵌入了大型语言模型，能在本地自动生成文本，并依赖 Wasm 的 HarfBuzz 引擎在 Gimp 等应用中运行。这种将 AI 直接嵌入文本应用的方式，虽然展示了本地化智能的潜力，但也引发了安全隐患：恶意字体可能被用来生成钓鱼内容或执行未授权操作，且难以被传统安全软件检测。
RAG 优化与 GraphRAG 的兴起
在 RAG 应用中，分块策略影响效果。新方法使用句子 BERT 计算句子嵌入，通过嵌入检测主题变化来优化分块。此外，GraphRAG 使用图形数据库而非矢量数据库，能更好地编码数据关系，为复杂查询提供更合适的上下文，但图形处理难度更高。
安全威胁与防御动态
近期安全事件频发：Polyfill.io 遭遇供应链攻击，MoveIT 存在严重漏洞可让攻击者冒充合法用户，Hugging Face 的 Spaces 被窃取授权令牌。同时，微软因批评将 Windows 11 Recall 功能默认禁用并推迟发布。这些事件提醒开发者和用户需保持警惕，及时更新和监控系统。
AI 在垂直领域的创新应用
AI 正被用于多个垂直领域：训练模型数花以预测农作物产量，Meta 的 AudioSeal 为 AI 生成音频添加水印，Cohere 的 Command R 能多步骤使用外部工具，Luma 的 Dream Machine 根据文本生成短视频。这些应用展示了 AI 在农业、媒体、工具使用等方面的实际价值。
Q&A
2024年7月有哪些新兴的AI技术趋势？
包括字体嵌入AI、AI消除阴谋论、AI预测农作物产量、为AI生成音频添加水印等。
Meta的AudioSeal是什么？
AudioSeal是一种为AI生成的音频内容添加水印的系统，可靠性高达90%到100%。
如何使用AI来改善隐私？
研究人员开发了应用程序，用于删除图像中的敏感部分，并用类似但不同的东西替换它们。
Anthropic发布了什么新版本的语言模型？
Anthropic发布了Claude 3.5 Sonnet，声称其性能与GPT-4o和Gemini 1.5相似。
Luma的Dream Machine有什么特点？
Dream Machine是一款生成式AI工具，可以根据文本提示生成短视频。
什么是Gleam编程语言？
Gleam是一种新型类型安全函数式语言，旨在构建大型并发系统。
