FreeBuf网络安全行业门户 ·

针对大语言模型的通用对抗性攻击

💡 原文中文，约3900字，阅读约需10分钟。

📝

内容提要

研究人员使用贪婪和基于梯度的搜索技术相结合的方法，生成了一种对抗性攻击后缀，可以提高大语言模型产生肯定回应的概率，并生成恶意内容。该攻击后缀具有可迁移性，可以对黑盒和公开发布的大型语言模型进行攻击。研究者成功地将恶意内容引入多个语言模型，推动了对语言模型的对抗性攻击技术发展。

🏷️

论霍奇猜想
数学家Burt Totaro撰文讨论霍奇猜想的现状。该猜想由Hodge于1950年提出，关乎拓扑与代数几何的关系，至今未解。虽进展有限，但催生了Hodge...
营销运营即代码：在 GitHub 上实现从活动策划到后续跟进的全流程自动化
GitHub日本和韩国区域市场负责人田中朋子原为工程师，现用Copilot和Actions重建营销工作流。GitHub Copilot新增功能：可在同一界...
OpenAI的安全系统已在任务中途切断API响应
OpenAI正考虑放缓最先进AI模型的开发，并可能与其他前沿实验室协调。此前研究员Coxon从Anthropic辞职，警告行业竞速过快、安全失控。Open...
Cohere称AI主权很重要——但它刚刚将新翻译模型限制为商业使用
Cohere发布开源权重翻译模型North Small Translate 1.0，支持50多种语言，总参数2180亿。非商业用户可在Hugging Fa...
Kubernetes v1.37 带来 67 项增强。哪些对运维人员重要？
KubeCon前瞻：Kubernetes v1.37发布，包含67项改进，KYAML转为稳定版。CNCF宣布Kubeflow、Karmada和Cloud ...
AI与数学的严重错位
陶哲轩等25位菲尔兹奖得主联署声明，警告AI公司以解决数学难题为基准，与数学界追求概念理解的核心目标严重错位。AI虽能加速研究，但若缺乏数学家的传承与整合...