小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
研究发现,OpenAI、Anthropic、Google、Amazon 和 xAI 在一种攻击类型上均未能通过

思科研究发现,企业在评估AI模型时使用的安全基准存在问题。多轮对话攻击的成功率显著高于单轮对话,且单轮表现无法有效预测多轮韧性。不同模型在多轮攻击下的表现差异明显,某些模型在配置变化下的安全性变化未被现有基准捕捉。思科建议AI提供商应披露部署设置对安全性的影响。

研究发现,OpenAI、Anthropic、Google、Amazon 和 xAI 在一种攻击类型上均未能通过

The New Stack The New Stack · 2026-06-01T21:01:11Z

本文研究了对现代大型语言模型(LLMs)在编码任务中的对抗性示例攻击的影响,并提出了基于提示的防御措施,实验证明对抗性示例具有可转移性,削弱了LLMs的性能,提出的防御措施显示出改善模型韧性的潜力。

往返翻译防御大型语言模型越狱攻击

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-21T00:00:00Z

本文研究了对现代大型语言模型(LLMs)在编码任务中的对抗性示例攻击的影响,并提出了基于提示的防御措施,实验证明对抗性示例具有可转移性,削弱了LLMs的性能,提出的防御措施显示出改善模型韧性的潜力。

为漏洞检测优化大型语言模型

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-01-30T00:00:00Z

本文研究了对大型语言模型(LLMs)的编码任务的对抗性扰动的影响,并提出了基于提示的防御措施。实验证明,对抗性示例具有可转移性,削弱了LLMs的性能。提出的防御措施显示出改善模型韧性的潜力。

评估大型语言模型安全性的因果分析

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-12-13T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码