小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
设计抗击提示注入的AI代理

AI代理的网络浏览和指令执行能力增强,导致提示注入攻击的出现。这类攻击逐渐演变为复杂的社会工程学手段,防御措施需结合输入过滤和系统设计,以限制操控影响,确保用户数据安全。

设计抗击提示注入的AI代理

OpenAI
OpenAI · 2026-03-11T11:30:00Z

随着大语言模型技术的发展,安全挑战加剧。攻击者通过提示注入、越狱和数据中毒等手段,诱导模型产生有害输出或泄露隐私。因此,研究者需加强防御策略,确保模型安全,以应对不断演变的攻击技术。

大模型攻防安全入门

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-11-20T14:17:43Z

随着信息技术的发展,网络安全问题愈发严重,企业和个人面临巨大威胁。网络安全人才需求增加,但培养滞后。《Web漏洞分析与防范实战》通过真实案例深入探讨高危漏洞及防御策略,提升读者应对能力。

赠书福利 | 《Web漏洞分析与防范实战》免费送

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-11-17T06:25:35Z

AI黑客不断进化,企业需利用数字孪生技术进行全天候威胁监测。尽管AI在网络安全中潜力巨大,但现有防御策略亟待创新。攻击者利用AI的优势,企业必须迅速响应并修补漏洞,以应对复杂的安全挑战。

专访国外爆火的AI渗透机器人XBOW:对抗性机器人与自主威胁猎手的较量

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-11-14T03:10:00Z

本文分析了Microsoft Edge浏览器的凭据存储机制及其安全性。Edge通过DPAPI加密用户密码和敏感数据,但攻击者可通过内存提取和会话劫持解密这些凭据。文章强调监控DPAPI调用和内存访问的重要性,以防止凭据泄露。

解锁 Edge 密码宝库:内网取证与横向渗透的技术拆解

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-11-05T08:29:40Z
应对AI劫持的威胁

AI代理通过提示注入攻击,导致敏感数据泄露,传统安全措施无效。攻击者利用AI的自然语言处理能力绕过安全限制,造成严重后果。防御策略包括输入验证、最小权限访问和人类审批等,以降低风险。组织需在AI系统设计中优先考虑安全,以应对不断演变的攻击手段。

应对AI劫持的威胁

KDnuggets
KDnuggets · 2025-10-27T14:00:42Z

域渗透是黑客针对企业域环境的深度入侵手段,通过弱口令和漏洞等方式渗透,最终控制域控制器以窃取数据。《域渗透实战指南》详细探讨了攻击技术、防御策略和实战案例,适合网络安全从业者学习。

赠书福利 | 《域渗透实战指南》免费送

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-10-09T05:26:43Z

最新的域名前置技术利用谷歌服务的信任关系,建立隐蔽的恶意流量通道,攻击者通过谷歌基础设施传输恶意数据,难以监测。研究表明,攻击者可通过特定域名实现无缝通信,给网络安全带来挑战。有效的防御策略包括证书一致性检查和异常流量分析。

新型域名前置攻击利用Google Meet、YouTube、Chrome及GCP构建流量隧道

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-09-24T23:49:12Z

最新研究表明,AI系统能够在10-15分钟内自动生成有效的CVE利用代码,成本约为1美元。这一进展显著缩短了漏洞修复的响应时间,传统防御策略面临挑战,攻防力量的平衡可能发生根本变化。

人工智能系统可在10-15分钟内生成已公开漏洞的有效利用代码

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-08-21T22:54:05Z

微软推出了一套防御策略,针对大型语言模型的间接提示注入攻击。该策略结合预防、检测和影响缓解措施,采用聚光技术区分合法与恶意指令,并部署提示防护盾系统进行监测。通过细粒度数据治理和用户授权机制,微软提升了AI安全性,保持行业领先。

微软详解防御间接提示注入攻击的技术方案

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-07-29T22:53:19Z

大模型在调用外部工具时,生成JSON格式常遇到引号和特殊字符转义问题,影响调用成功。业界发展了提示工程和框架抽象等多层防御策略以提高可靠性,同时探索XML和Multipart协议等替代方案,以解决JSON的缺陷,未来可能实现更稳健的工具调用。

大模型的JSON之殇:从脆弱的API调用到稳健的未来

dotNET跨平台
dotNET跨平台 · 2025-07-28T00:01:59Z

蓝队在误封IP后需迅速判断原因,确认被误封的IP,并在5分钟内恢复业务。步骤包括解封、防护调整、业务验证,最后进行复盘与优化,分析误封原因并改进防御策略。

攻防演练中蓝队误封正常 IP 5 分钟内恢复业务的操作流程!

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-07-16T00:00:00Z

本文讨论了钓鱼攻击演练、供应链安全和银狐病毒的防御策略。强调演练需注重计划、场景设计和评估,同时结合安全意识培训。供应链安全建议从准入管控、动态防御和应急阻断入手。银狐病毒通过水坑钓鱼和远控扩散,防御措施包括抓取恶意域名、禁用宏和部署EDR等。

HW钓鱼攻击演练方案流程;银狐水坑钓鱼远控防御探讨丨FB甲方群话题讨论

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-06-25T08:32:15Z
CC攻击事件报告 20250613至20250619

2025年6月13日至19日,发生多次CC攻击,攻击者使用大量国内外代理IP,导致反向代理服务器卡顿和后端服务器满载。通过Cloudflare和阿里CDN的防御策略,问题得到缓解。攻击样本显示国内IP占比高,防御措施包括缓存规则和自定义规则等。

CC攻击事件报告 20250613至20250619

苍穹の下
苍穹の下 · 2025-06-23T05:55:28Z

Kubernetes 作为容器编排标准,面临多重安全挑战。保护集群需要多层防御策略,包括控制平面安全、RBAC、网络分段、密钥管理和持续监控。通过加固 API 服务器、实施细粒度角色和默认拒绝网络策略等措施,企业可以提升安全性。定期审计和漏洞评估是持续保护的关键。

从网络安全视角看如何保护 Kubernetes 集群安全

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-06-10T10:00:00Z

JDK动态代理机制通过Proxy.newProxyInstance()生成代理类,存在反序列化、接口方法劫持和类加载器控制等安全风险。审计时需关注危险参数、反序列化入口及递归代理。防御策略包括接口白名单、安全调用处理器和类加载器隔离。这些技术对Java安全审计至关重要。

Java漏洞在白盒审计中的技巧(4)——JDK动态代理机制

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-06-03T01:44:53Z

反射机制允许动态获取类信息和调用方法,但存在安全风险,如绕过访问控制和执行危险方法。审计时需关注用户输入和反射调用,防御策略包括限制反射使用、输入校验和采用更安全的调用方式。理解反射的双刃剑特性是提升Java代码审计能力的关键。

Java漏洞在白盒审计中的技巧(2)——反射机制

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-05-31T03:59:10Z
$9,000每分钟:这就是停机的平均成本

系统停机每分钟损失约9000美元,影响深远。停机不仅导致直接收入损失,还损害客户关系和竞争优势。企业需识别停机原因,实施负载测试、冗余架构和实时监控等防御策略,以降低风险并增强韧性。

$9,000每分钟:这就是停机的平均成本

DEV Community
DEV Community · 2025-05-29T16:45:38Z

本文探讨了PHP伪协议的多种攻击方式,包括利用php://filter、php://input、data://、zip://和phar://协议进行代码执行和文件包含攻击。同时,文章提供了防御策略,如输入过滤、禁用危险配置和代码加固,以防止这些漏洞的利用。

PHP漏洞在白盒审计中的技巧(4)——PHP伪协议利用

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-05-26T02:57:26Z

本研究提出了MergeGuard方法,旨在应对机器学习中的特洛伊攻击。通过线性化和合并全连接层,提升模型的泛化能力和性能。评估结果表明,该方法在降低攻击成功率的同时,保持了模型的准确性,优于常见的防御策略。

MergeGuard: An Efficient Defense Against Trojan Attacks in Machine Learning Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-06T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码