小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

AI风险管理旨在识别、评估和降低与AI相关的风险。主要方法包括风险识别、分析、缓解和治理。通过专家互动和威胁建模发现潜在风险,评估模型的能力和漏洞,采用控制措施降低风险,并确保透明度和问责,以促进有效的风险管理。各国已推出法律和框架以提高透明度和标准化,推动AI风险管理的进步。

【公益译文】2026年国际AI安全报告(五)

绿盟科技技术博客
绿盟科技技术博客 · 2026-04-24T01:17:11Z
百人研发公司对稳定性保障的认知 - 蝈蝈俊

百人研发团队需提升稳定性保障技术能力,利用AI进行风险分析,聚焦快速止损和根因分析,分级提升稳定性。事故管理应对齐大厂标准,避免侥幸,鼓励提前发现隐患,建立持续改进机制。

百人研发公司对稳定性保障的认知 - 蝈蝈俊

蝈蝈俊
蝈蝈俊 · 2025-12-22T07:20:00Z
AWS Security Hub 现已正式推出,具有近乎实时的分析和风险优先级排序功能

AWS Security Hub 正式发布,旨在帮助安全团队识别和应对 AWS 环境中的安全风险。它通过自动关联多项安全服务信号,提供近实时的风险分析和趋势功能,简化安全操作,减少手动工作,提高响应效率。新功能包括历史趋势分析、暴露量计算及与 Jira、ServiceNow 的集成,支持自动化响应工作流程。

AWS Security Hub 现已正式推出,具有近乎实时的分析和风险优先级排序功能

亚马逊AWS官方博客
亚马逊AWS官方博客 · 2025-12-11T03:24:30Z
科络达发布全新MaaS智慧移动服务

科络达推出MaaS智慧移动服务,通过整合驾驶行为、保险数据和车载AI,提升风险分析与预测能力,帮助车队降低成本、提高效率。该服务适用于多种移动载具,并支持OTA升级与AI车队管理技术。

科络达发布全新MaaS智慧移动服务

全球TMT-美通国际
全球TMT-美通国际 · 2025-12-03T07:27:27Z
构建具有弹性的生成式AI代理

生成式AI代理在生产环境中需超越传统软件的弹性策略。文章提出七维框架,分析AI代理的弹性风险,并探讨防止、检测和缓解常见挑战的实用策略,涵盖基础模型、代理编排、知识库和安全合规等方面,强调容量、延迟、输出准确性和冗余的重要性,以确保AI系统的可靠性与持续改进。

构建具有弹性的生成式AI代理

AWS Architecture Blog
AWS Architecture Blog · 2025-09-30T15:11:51Z

世界数字科学院在联合国发布了全球首个AI智能体运行安全测试标准,旨在提升AI应用的安全性与可信度。该标准由多家机构共同编制,涵盖风险分析和模型检测等方法,以应对AI技术快速发展带来的安全隐忧。

WDTA发布全球首个AI智能体运行安全测试标准,蚂蚁集团、清华大学等联合编制

量子位
量子位 · 2025-07-14T06:52:32Z
Luna AI与MongoDB为产品团队提供救助

Luna AI旨在帮助产品和工程领导者解决实时决策中的数据碎片化问题。通过整合Jira和Slack等工具的数据,Luna AI提供清晰的目标、进展和风险分析,减少手动更新需求。其技术基础为MongoDB Atlas,支持多租户架构和快速扩展。未来将推出更智能的风险预警和ROI规划功能。

Luna AI与MongoDB为产品团队提供救助

MongoDB
MongoDB · 2025-06-03T16:30:00Z
伦敦证券交易所集团扩展与亚马逊云科技的多年合作关系

伦敦证券交易所集团与亚马逊云科技扩展合作,选择其为首选云服务提供商,以提升运营韧性和安全性,并推出创新服务。风险情报部门将利用Amazon Bedrock进行快速风险分析,市场部门则通过Amazon Outposts改善服务体验。

伦敦证券交易所集团扩展与亚马逊云科技的多年合作关系

全球TMT-美通国际
全球TMT-美通国际 · 2025-05-07T02:32:25Z
为什么研究是投资中最被低估的技能(以及Analyst AI如何让它变得轻而易举)

在嘈杂的市场中,深入研究是成功投资的关键。许多投资者因依赖社交媒体和情绪做决策而遭受损失。有效研究应包括风险分析、流动性评估和多来源验证。Analyst AI平台提供快速、准确的市场分析,帮助投资者做出明智决策。

为什么研究是投资中最被低估的技能(以及Analyst AI如何让它变得轻而易举)

DEV Community
DEV Community · 2025-04-06T19:43:59Z

本研究提出了一种自适应深度学习方法,通过误预测风险分析框架,量化并排名乳腺癌图像被错误标记的可能性,从而优化分类器的训练策略。结果表明,该方法显著提升了深度神经网络分类器的性能,有效识别误预测。

Adaptive Deep Learning for Multiclass Breast Cancer Classification via Misprediction Risk Analysis

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-17T00:00:00Z

本研究提出情景建模和类比分布的方法,解决了AI安全评估中风险度量不足的问题,全面评估AI风险,验证了其在AI风险分析中的有效性,为未来的AI安全评估奠定了可靠基础。

多变量人工智能风险的统计情景建模与类比分布

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-20T00:00:00Z
人工智能驱动的金融系统:革新风险分析与欺诈检测

金融领域因技术创新,尤其是人工智能(AI)在风险分析和欺诈检测中的应用,正经历深刻变革。传统方法难以应对现代金融交易的复杂性,AI通过实时分析和动态风险评估等手段提升了风险管理和安全性。然而,AI在数据质量、透明性和伦理等方面仍面临挑战,需要以负责任的方式发挥其潜力。

人工智能驱动的金融系统:革新风险分析与欺诈检测

DEV Community
DEV Community · 2025-01-09T02:24:05Z
在htmx和expressjs中实现reCAPTCHA

reCAPTCHA利用风险分析技术保护网站和移动应用,防止欺诈。用户通过加载网页、初始化reCAPTCHA并触发操作获取加密令牌,随后将其发送到后端验证。实现过程中需创建项目、启用API、添加脚本,并处理请求以评分用户行为,判断操作是否由人类执行。

在htmx和expressjs中实现reCAPTCHA

DEV Community
DEV Community · 2024-11-06T16:42:36Z

本研究开发了NEOviz互动可视化系统,解决了小行星轨迹的不确定性,增强了专家对小行星影响风险的分析能力,有助于更好地理解和预测小行星对地球的潜在威胁。

NEOviz:基于不确定性的小行星轨迹可视化分析

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-05T00:00:00Z
统计学在数据科学中的作用

统计学是数据科学的基础,帮助分析数据、预测和理解趋势。文章介绍了均值、标准差和相关性等基本概念,以及它们在预测建模、假设检验和风险分析中的应用。掌握统计学对数据分析和解释至关重要。

统计学在数据科学中的作用

DEV Community
DEV Community · 2024-11-02T23:56:39Z
课程推荐:考虑安全性的需求工程

在数字化时代,安全性是软件开发的关键。科罗拉多大学在Coursera上提供的课程“需求工程:安全软件规格”专注于从客户需求到安全软件的开发,适合开发人员和产品经理。课程涵盖需求收集和风险分析,通过案例研究和实践练习,帮助学员构建安全系统。

课程推荐:考虑安全性的需求工程

我爱自然语言处理
我爱自然语言处理 · 2024-10-16T05:15:18Z

美国联邦数据库追踪安全漏洞工作停滞,导致风险分析无法进行,供应链风险增加。争议中,私营部门或政府集中管理数据库。数据库由国家标准技术研究院管理,9762个未分析的漏洞积压。网络安全供应商受影响。建议将数据库视为关键基础设施,提供更多资金和资源。

新漏洞太多让美国NVD面临崩溃,还可能引发供应链风险

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2024-05-14T06:15:28Z

本研究提出了C-RAG框架,用于证明RAG模型的世代风险。通过风险分析和上界置信度,我们证明了符合世代风险。实证结果表明,RAG模型比单个LLM实现了更低的符合世代风险。

C-RAG: 检索扩展语言模型的认证生成风险

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-05T00:00:00Z

本文介绍了二进制软件成分分析的背景、原理和应用。开源组件成为软件开发的核心基础设施,但也带来了风险和安全隐患。通过对二进制软件进行成分分析,可以检测潜在风险并提供有价值的信息。文章详细介绍了二进制软件成分分析的需求、风险分析、定义和生成过程、原理和实践应用。二进制软件成分分析可以提高软件的安全性和可靠性,保障数字供应链安全。

SCA技术进阶系列(三):浅谈二进制SCA在数字供应链安全体系中的应用

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2023-07-21T07:42:42Z
代码合成大型语言模型的风险分析框架

AbstractCodex是一种先进的大型语言模型,能够生成代码,超越以往技术。然而,它也存在显著的局限性和安全风险。本文提出了一个风险分析框架,探讨Codex等模型在技术、社会、政治和经济方面的潜在危害。

代码合成大型语言模型的风险分析框架

OpenAI
OpenAI · 2022-07-25T07:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码