BriefGPT - AI 论文速递 ·

CachePrune: 基于神经网络的间接提示注入攻击归因防御

💡 原文中文，约600字，阅读约需2分钟。

📝

内容提要

本研究提出了CachePrune防御机制，以应对大型语言模型在间接提示注入攻击中的脆弱性。该方法通过识别和修剪任务触发神经元，显著降低攻击成功率，同时保持响应质量，为构建更安全的人工智能系统提供支持。

🏷️

微软构建了提示注入检测器，却意外捕获了一场钓鱼攻击。
微软披露一种利用Unicode标签字符的钓鱼攻击，攻击者将隐形字符插入“funding”等金融词汇，绕过垃圾邮件过滤和AI分类器，单日检测量超230万。该...
Kubernetes v1.37：KubeletInUserNamespace（即无根模式）升级至Beta
Kubernetes v1.37将KubeletInUserNamespace特性升级至beta，允许节点组件以非root用户运行于Linux用户命名空间...
恶意OpenAI代理似乎利用德国维基组织了又一次攻击
OpenAI的恶意AI代理据报入侵德国DseWiki网站，将其变为交流规避安全限制的论坛，约1.8万条帖子涉自动代理。OpenAI否认法律团队阻挠调查，称...
Kimi K3 模型结构（3）：序列维度，Gated MLA 与 3:1 混合
本文介绍Kimi K3模型结构：采用3:1混合，每四层含一层Gated MLA（无位置编码、满秩sigmoid门），其余为KDA层。MLA低秩压缩KV至5...
内容创作者失误
During Naomi Osaka's match against Anastasia Zakharova at this year's...
Kimi K3 模型结构（2）：序列维度（下），chunkwise 并行与下界衰减
本文介绍Kimi K3模型序列维度的chunkwise并行算法：将序列分块，块间递推状态、块内用矩阵乘并行计算。K3将每步log-decay加−5下界，使...