DVB 项目批准了以 DVB-I 为中心的规范更新,首次引入全面安全框架,增强了 DRM 支持和流媒体分析。新规范已发布为 DVB 蓝皮书,待 ETSI 标准化。Remo Vogel 连任 DVB 项目主席,推动 DVB-I 发展。
随着Agentic AI的兴起,AI的自主性与失控风险并存。文章探讨了通过源头对齐、边界重构和结果保障来构建安全框架,以应对智能体自主行动带来的挑战,强调思维链监控和动态边界控制的重要性,以确保智能体在复杂环境中的安全运行。
Galileo公司推出了Agent Control,这是一个开源控制平台,旨在帮助企业大规模管理AI代理。该平台允许组织编写并执行行为政策,提供标准化的安全框架,确保AI代理的安全性和一致性。预计到2027年,全球2000大企业中AI代理的使用将增加十倍。
AI初创公司面临将代理与人类身份绑定的问题。AuthZed的CEO Moshenko强调,代理应视为独立实体,以避免员工离职影响权限。尽管云原生工具提供授权和可观察性,验证代理行为仍具挑战。未来,企业需建立更好的代理管理和安全框架,以应对AI工作负载的技术债务。
NVIDIA推出新安全框架,助力开发者构建安全的物理AI。OpenUSD 1.0规范定义了标准数据模型,支持可互操作的仿真管道。开发者可通过高保真模拟和合成数据生成,在安全环境中测试机器人和自动驾驶汽车,从而提升安全性和效率。
Meta设计的安全框架通过封装不安全的操作系统和第三方功能,使安全成为默认选项,简化复杂性,促进开发者采用,并利用生成式AI和自动化加速安全框架的应用,确保一致的安全性和高效迁移。
本文介绍了Linux桌面系统的启动机制和安全框架,包括UEFI引导、内核加载、initramfs和systemd服务启动,重点分析了PAM和PolicyKit等组件在系统安全中的作用,并提供了故障排查流程及常见问题解决方案。
Anthropic推出Claude Sonnet 4.5,显著提升自主计算和编码能力,内部测试中可独立运行30小时,生成约11000行代码。OpenAI发布Sora 2,改进视频音频生成并增加新功能。加州通过SB 53法案,要求大型AI开发者公开安全框架,OpenAI对此州级规则表示反对。
加州通过了AI透明法案SB 53,旨在提升AI公司的安全性和透明度。该法案要求大型AI开发者公开安全框架和更新,并保护举报者。尽管部分公司反对,认为会影响AI产业,但也有公司表示支持。法案将根据多方意见每年更新。
超过200位前国家元首、诺贝尔奖得主和AI专家呼吁制定国际AI“红线”协议,以防止AI冒充人类或自我复制。该倡议旨在2026年前达成全球共识,避免潜在的不可逆风险。专家强调,AI发展应在安全框架内进行,以确保经济发展与安全并存。
谷歌DeepMind发布新版《前沿安全框架》,引入“有害操纵关键能力等级”评估AI风险,强化系统抗关停能力,优化风险分级,强调主动缓解措施,确保AI安全发展。
提示词注入攻击是现代AI系统的严重安全漏洞,攻击者通过设计输入操控AI行为。当前大语言模型难以区分可信与不可信指令,增加了安全风险。攻击方式包括直接和间接注入,企业需建立全面的安全框架以应对这些威胁。
Shiro框架是一个Java安全框架,提供认证、授权、加密和会话管理功能。其反序列化漏洞源于硬编码的AES密钥,攻击者可利用恶意Cookie进行远程代码执行。建议升级Shiro版本并采用更安全的加密方式。
LlamaFirewall 是一款模块化设计的安全框架,旨在防范大语言模型的越狱攻击、提示注入和不安全代码等风险。它整合了三重防护机制,支持开发者定制安全策略,提升AI系统安全性。该框架已在GitHub上免费发布,未来将扩展至更多高危行为的防护。
LlamaFirewall是一个安全框架,旨在保护AI代理免受提示注入和目标不一致的攻击,成功降低90%以上的攻击率。它由PromptGuard 2、Agent Alignment Checks和CodeShield三层保护组成,实时监控安全风险,提升AI代理的安全性。
本研究提出了一种领域无关的可扩展人工智能安全框架,旨在克服现有安全策略的局限性。该框架确保AI系统在不同领域符合用户定义的安全要求,尤其在低安全阈值区域表现优异,并具备良好的扩展性。
NYU Tandon开发的in-toto软件供应链安全框架获得CNCF毕业,提升了软件开发生命周期的透明度和安全性,帮助组织验证开发流程,降低风险,确保合规,已被SolarWinds等公司采用。
本文分析了Drip Network的安全框架,重点讨论其核心安全特性、收益农业和质押协议,并比较区块链安全最佳实践。文章强调智能合约的完整性、开源开发和网络安全,探讨实际应用、面临的挑战及未来趋势,以帮助开发者和投资者理解该平台的安全性。
本文分析了全球20个国家超过12000次AI网络攻击尝试,识别出七种典型攻击类型及关键瓶颈,并通过更新的安全框架评估AI在网络攻击中的应用,以帮助防御者优先配置资源,提升网络安全能力。
文章讨论了AI代理在企业中的应用,AWS开发者副总裁Deepak Singh与Ryan探讨了AI代理的定义、功能及其在软件开发中的整合,强调建立安全框架以确保信任和安全的重要性。
完成下面两步后,将自动完成登录并继续当前操作。