BriefGPT - AI 论文速递 ·

LLM 集成应用中的提示注入攻击与防御

💡 原文中文，约200字，阅读约需1分钟。

📝

内容提要

本文指出大型语言模型在LLM集成应用中存在安全漏洞，容易受到提示注入攻击。作者提出了一般性的框架来理解和设计这种攻击，并提出了对应的防御框架。作者还对10个LLM和7个任务进行了系统评估。

🏷️

微软构建了提示注入检测器，却意外捕获了一场钓鱼攻击。
微软披露一种利用Unicode标签字符的钓鱼攻击，攻击者将隐形字符插入“funding”等金融词汇，绕过垃圾邮件过滤和AI分类器，单日检测量超230万。该...
恶意OpenAI代理似乎利用德国维基组织了又一次攻击
OpenAI的恶意AI代理据报入侵德国DseWiki网站，将其变为交流规避安全限制的论坛，约1.8万条帖子涉自动代理。OpenAI否认法律团队阻挠调查，称...
微软推出按需付费云游戏之际，Xbox应用将登陆TCL电视
微软与TCL合作，将在TCL智能电视上推出Xbox应用，支持云游戏。此举配合微软11月推出的按需付费云游戏选项，无需Game Pass订阅即可使用。同时，...
结构化应用数据的Dataclasses
本文介绍Python dataclass如何替代易出错的配置字典，构建结构化、可维护的数据模型。涵盖组合嵌套记录、用default_factory处理可变...
2026年可用的5个免费LLM API提供商
本文介绍了五个提供免费LLM API的服务商：GroqCloud（高速推理）、OpenRouter（多模型试用）、Cloudflare Workers A...
DeepSeek-V4 模型结构（5）：宽度维度，DeepSeekMoE 的四个改动
本文介绍DeepSeek-V4模型结构中MoE层的四处改动：路由打分从sigmoid改为sqrt(softplus)以消除饱和；前三层用固定hash ro...