小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
龙虾安全被3层硬核架构焊死了!一份面向开发者的硬核生存指南

随着Agentic AI的兴起,AI的自主性与失控风险并存。文章探讨了通过源头对齐、边界重构和结果保障来构建安全框架,以应对智能体自主行动带来的挑战,强调思维链监控和动态边界控制的重要性,以确保智能体在复杂环境中的安全运行。

龙虾安全被3层硬核架构焊死了!一份面向开发者的硬核生存指南

量子位
量子位 · 2026-03-30T02:27:30Z
Galileo推出Agent Control,一个用于企业AI代理的集中式安全框架平台

Galileo公司推出了Agent Control,这是一个开源控制平台,旨在帮助企业大规模管理AI代理。该平台允许组织编写并执行行为政策,提供标准化的安全框架,确保AI代理的安全性和一致性。预计到2027年,全球2000大企业中AI代理的使用将增加十倍。

Galileo推出Agent Control,一个用于企业AI代理的集中式安全框架平台

The New Stack
The New Stack · 2026-03-11T19:48:43Z
为什么AI代理需要独立身份,而不是依赖于人类身份

AI初创公司面临将代理与人类身份绑定的问题。AuthZed的CEO Moshenko强调,代理应视为独立实体,以避免员工离职影响权限。尽管云原生工具提供授权和可观察性,验证代理行为仍具挑战。未来,企业需建立更好的代理管理和安全框架,以应对AI工作负载的技术债务。

为什么AI代理需要独立身份,而不是依赖于人类身份

The New Stack
The New Stack · 2025-12-23T21:00:33Z
进入全宇宙:OpenUSD和NVIDIA Halo加速机器人出租车和物理AI系统的安全性

NVIDIA推出新安全框架,助力开发者构建安全的物理AI。OpenUSD 1.0规范定义了标准数据模型,支持可互操作的仿真管道。开发者可通过高保真模拟和合成数据生成,在安全环境中测试机器人和自动驾驶汽车,从而提升安全性和效率。

进入全宇宙:OpenUSD和NVIDIA Halo加速机器人出租车和物理AI系统的安全性

NVIDIA Blog
NVIDIA Blog · 2025-12-17T17:00:49Z
人工智能如何改变安全默认移动框架的采用

Meta设计的安全框架通过封装不安全的操作系统和第三方功能,使安全成为默认选项,简化复杂性,促进开发者采用,并利用生成式AI和自动化加速安全框架的应用,确保一致的安全性和高效迁移。

人工智能如何改变安全默认移动框架的采用

Engineering at Meta
Engineering at Meta · 2025-12-15T17:00:25Z
Linux 桌面系统故障排查指南(一) - 系统启动与安全框架

本文介绍了Linux桌面系统的启动机制和安全框架,包括UEFI引导、内核加载、initramfs和systemd服务启动,重点分析了PAM和PolicyKit等组件在系统安全中的作用,并提供了故障排查流程及常见问题解决方案。

Linux 桌面系统故障排查指南(一) - 系统启动与安全框架

This Cute World
This Cute World · 2025-10-19T02:17:33Z
人工智能周报 #323 - Sonnet 4.5, Sora 2, Vibes, SB 53

Anthropic推出Claude Sonnet 4.5,显著提升自主计算和编码能力,内部测试中可独立运行30小时,生成约11000行代码。OpenAI发布Sora 2,改进视频音频生成并增加新功能。加州通过SB 53法案,要求大型AI开发者公开安全框架,OpenAI对此州级规则表示反对。

人工智能周报 #323 - Sonnet 4.5, Sora 2, Vibes, SB 53

Last Week in AI
Last Week in AI · 2025-10-02T16:44:32Z
加州的里程碑式AI透明法案SB 53现已成为法律

加州通过了AI透明法案SB 53,旨在提升AI公司的安全性和透明度。该法案要求大型AI开发者公开安全框架和更新,并保护举报者。尽管部分公司反对,认为会影响AI产业,但也有公司表示支持。法案将根据多方意见每年更新。

加州的里程碑式AI透明法案SB 53现已成为法律

The Verge
The Verge · 2025-09-29T23:01:43Z
全球呼吁设立AI“红线”警示国际AI政策缺失

超过200位前国家元首、诺贝尔奖得主和AI专家呼吁制定国际AI“红线”协议,以防止AI冒充人类或自我复制。该倡议旨在2026年前达成全球共识,避免潜在的不可逆风险。专家强调,AI发展应在安全框架内进行,以确保经济发展与安全并存。

全球呼吁设立AI“红线”警示国际AI政策缺失

The Verge
The Verge · 2025-09-22T18:33:27Z

谷歌DeepMind发布新版《前沿安全框架》,引入“有害操纵关键能力等级”评估AI风险,强化系统抗关停能力,优化风险分级,强调主动缓解措施,确保AI安全发展。

谷歌DeepMind升级前沿AI安全框架,新增操纵风险与系统抗关停防护机制

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-09-22T12:40:01Z

提示词注入攻击是现代AI系统的严重安全漏洞,攻击者通过设计输入操控AI行为。当前大语言模型难以区分可信与不可信指令,增加了安全风险。攻击方式包括直接和间接注入,企业需建立全面的安全框架以应对这些威胁。

提示词注入攻击:如何通过用户输入绕过AI代理

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-08-31T19:00:02Z

Shiro框架是一个Java安全框架,提供认证、授权、加密和会话管理功能。其反序列化漏洞源于硬编码的AES密钥,攻击者可利用恶意Cookie进行远程代码执行。建议升级Shiro版本并采用更安全的加密方式。

shiro反序列化漏洞利用bypass技巧

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-07-25T06:46:31Z

LlamaFirewall 是一款模块化设计的安全框架,旨在防范大语言模型的越狱攻击、提示注入和不安全代码等风险。它整合了三重防护机制,支持开发者定制安全策略,提升AI系统安全性。该框架已在GitHub上免费发布,未来将扩展至更多高危行为的防护。

LlamaFirewall:开源框架助力检测与缓解AI核心安全风险

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2025-05-25T21:35:49Z
Meta开源LlamaFirewall以实现AI代理的综合保护

LlamaFirewall是一个安全框架,旨在保护AI代理免受提示注入和目标不一致的攻击,成功降低90%以上的攻击率。它由PromptGuard 2、Agent Alignment Checks和CodeShield三层保护组成,实时监控安全风险,提升AI代理的安全性。

Meta开源LlamaFirewall以实现AI代理的综合保护

InfoQ
InfoQ · 2025-05-13T19:00:00Z

本研究提出了一种领域无关的可扩展人工智能安全框架,旨在克服现有安全策略的局限性。该框架确保AI系统在不同领域符合用户定义的安全要求,尤其在低安全阈值区域表现优异,并具备良好的扩展性。

A Domain-Agnostic Scalable AI Safety Assurance Framework

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-29T00:00:00Z
CNCF宣布in-toto安全框架毕业,提升各行业软件供应链的完整性

NYU Tandon开发的in-toto软件供应链安全框架获得CNCF毕业,提升了软件开发生命周期的透明度和安全性,帮助组织验证开发流程,降低风险,确保合规,已被SolarWinds等公司采用。

CNCF宣布in-toto安全框架毕业,提升各行业软件供应链的完整性

Cloud Native Computing Foundation
Cloud Native Computing Foundation · 2025-04-23T16:00:00Z
理解Drip Network的安全性:全面概述

本文分析了Drip Network的安全框架,重点讨论其核心安全特性、收益农业和质押协议,并比较区块链安全最佳实践。文章强调智能合约的完整性、开源开发和网络安全,探讨实际应用、面临的挑战及未来趋势,以帮助开发者和投资者理解该平台的安全性。

理解Drip Network的安全性:全面概述

DEV Community
DEV Community · 2025-04-04T02:10:53Z

本文分析了全球20个国家超过12000次AI网络攻击尝试,识别出七种典型攻击类型及关键瓶颈,并通过更新的安全框架评估AI在网络攻击中的应用,以帮助防御者优先配置资源,提升网络安全能力。

评估先进人工智能的潜在网络安全威胁

Google DeepMind Blog
Google DeepMind Blog · 2025-04-02T13:30:00Z
AI代理准备好进入企业了吗?

文章讨论了AI代理在企业中的应用,AWS开发者副总裁Deepak Singh与Ryan探讨了AI代理的定义、功能及其在软件开发中的整合,强调建立安全框架以确保信任和安全的重要性。

AI代理准备好进入企业了吗?

Stack Overflow Blog
Stack Overflow Blog · 2025-03-28T07:40:00Z
揭示Spring Security背后的成功:开源商业模式、资金支持与社区

Spring Security是一个安全框架,旨在提升Java应用的安全性,结合社区贡献与企业赞助,遵循Apache 2.0许可证,促进透明合作,吸引全球开发者参与,以应对网络威胁。

揭示Spring Security背后的成功:开源商业模式、资金支持与社区

DEV Community
DEV Community · 2025-03-06T21:56:36Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码