小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
LWiAI播客第229期 - Gemini 3 Flash、ChatGPT应用、Nemotron 3

在第229期播客中,讨论了谷歌的Gemini 3 Flash和OpenAI的GPT-5.2 Codex等重要AI新闻。中国在半导体技术方面取得进展,华为和中芯国际推动EUV光刻机的发展。OpenAI关注生物安全和网络安全风险,并与美国军方合作开发新AI平台。

LWiAI播客第229期 - Gemini 3 Flash、ChatGPT应用、Nemotron 3

Last Week in AI
Last Week in AI · 2025-12-25T21:29:26Z
通过外部测试增强我们的安全生态系统

OpenAI重视独立第三方评估,以增强AI安全生态系统。这些评估验证安全能力,提升透明度,支持负责任的部署决策。自GPT-4发布以来,OpenAI与多方合作,进行涵盖生物安全和网络安全等领域的独立评估,确保模型安全有效。

通过外部测试增强我们的安全生态系统

OpenAI
OpenAI · 2025-11-19T12:00:00Z
评估开放权重大型语言模型的最坏情况前沿风险

本文研究了发布gpt-oss的最坏情况风险,提出了恶意微调(MFT)概念,并在生物和网络安全领域进行评估。通过任务创建和强化学习环境训练gpt-oss,结果显示其在这两个领域的风险评估表现不佳,未能显著推动前沿发展。这些发现影响了模型的发布决策。

评估开放权重大型语言模型的最坏情况前沿风险

OpenAI
OpenAI · 2025-08-05T00:00:00Z
为生物领域未来的人工智能风险做好准备

先进的人工智能模型在生物领域加速科学发现,促进药物研发和疫苗设计,但也存在滥用风险。需采取负责任的措施,确保生物安全,限制有害能力的访问,并加强与政府和专家的合作,以应对潜在威胁。

为生物领域未来的人工智能风险做好准备

OpenAI
OpenAI · 2025-06-18T10:00:00Z
美国商务部将人工智能安全研究所的“安全”一词去除

美国商务部将人工智能安全研究所更名为人工智能标准与创新中心,重点关注国家安全风险和国际标准。新机构将评估网络安全和生物安全等风险,并调查外部恶意影响。这是特朗普政府推动美国AI公司扩展的举措之一。

美国商务部将人工智能安全研究所的“安全”一词去除

The Verge
The Verge · 2025-06-04T19:39:42Z

文章探讨了自主性、生物安全、网络安全和机器学习研发的风险及缓解措施。未来基础模型可能带来严重风险,需评估其对有害活动的影响。研究团队致力于评估关键能力的风险并开发评估工具。Google将定期审查框架,以确保符合AI原则,促进安全与创新的平衡。

前沿安全框架介绍

Google DeepMind Blog
Google DeepMind Blog · 2024-05-17T14:00:00Z

人工智能(AI)带来了巨大的好处,但也存在风险。紫色团队合作是一个综合框架,通过对抗性漏洞探测和安全解决方案相结合,开发可靠和负责任的AI。它解决了AI在生物技术中的生物安全风险,并提供了关键观点。紫色团队合作旨在引导AI朝向社会福祉,为共同福利赋予道德技术的力量。

生成 AI 的红队测试:是银弹还是安全娱乐?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-01-29T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码