小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
活久见!奥特曼Dario哈萨比斯同仇敌忾:DNA得查了

一群科技领袖呼吁美国国会立法,要求对合成DNA订单进行强制筛查,以防止技术滥用和制造危险病原体。公开信指出,筛查是有效的生物安全措施,需检查序列、客户和记录,以确保可追溯性,反映出生物安全问题的紧迫性。

活久见!奥特曼Dario哈萨比斯同仇敌忾:DNA得查了

量子位 量子位 · 2026-06-05T06:56:03Z
智能时代的生物防御

OpenAI于2026年推出了GPT-Rosalind,旨在支持生物学、药物发现和转化医学研究。该模型帮助科学家理解疾病、开发新疗法,并关注生物安全。同时,OpenAI推出了Rosalind Biodefense计划,以增强生物防御和疫情应对能力,确保技术的负责任使用。

智能时代的生物防御

OpenAI OpenAI · 2026-06-04T00:00:00Z
LWiAI播客第229期 - Gemini 3 Flash、ChatGPT应用、Nemotron 3

在第229期播客中,讨论了谷歌的Gemini 3 Flash和OpenAI的GPT-5.2 Codex等重要AI新闻。中国在半导体技术方面取得进展,华为和中芯国际推动EUV光刻机的发展。OpenAI关注生物安全和网络安全风险,并与美国军方合作开发新AI平台。

LWiAI播客第229期 - Gemini 3 Flash、ChatGPT应用、Nemotron 3

Last Week in AI Last Week in AI · 2025-12-25T21:29:26Z
通过外部测试增强我们的安全生态系统

OpenAI重视独立第三方评估,以增强AI安全生态系统。这些评估验证安全能力,提升透明度,支持负责任的部署决策。自GPT-4发布以来,OpenAI与多方合作,进行涵盖生物安全和网络安全等领域的独立评估,确保模型安全有效。

通过外部测试增强我们的安全生态系统

OpenAI OpenAI · 2025-11-19T12:00:00Z
评估开放权重大型语言模型的最坏情况前沿风险

本文研究了发布gpt-oss的最坏情况风险,提出了恶意微调(MFT)概念,并在生物和网络安全领域进行评估。通过任务创建和强化学习环境训练gpt-oss,结果显示其在这两个领域的风险评估表现不佳,未能显著推动前沿发展。这些发现影响了模型的发布决策。

评估开放权重大型语言模型的最坏情况前沿风险

OpenAI OpenAI · 2025-08-05T00:00:00Z
为生物领域未来的人工智能风险做好准备

先进的人工智能模型在生物领域加速科学发现,促进药物研发和疫苗设计,但也存在滥用风险。需采取负责任的措施,确保生物安全,限制有害能力的访问,并加强与政府和专家的合作,以应对潜在威胁。

为生物领域未来的人工智能风险做好准备

OpenAI OpenAI · 2025-06-18T10:00:00Z
美国商务部将人工智能安全研究所的“安全”一词去除

美国商务部将人工智能安全研究所更名为人工智能标准与创新中心,重点关注国家安全风险和国际标准。新机构将评估网络安全和生物安全等风险,并调查外部恶意影响。这是特朗普政府推动美国AI公司扩展的举措之一。

美国商务部将人工智能安全研究所的“安全”一词去除

The Verge The Verge · 2025-06-04T19:39:42Z

文章探讨了自主性、生物安全、网络安全和机器学习研发的风险及缓解措施。未来基础模型可能带来严重风险,需评估其对有害活动的影响。研究团队致力于评估关键能力的风险并开发评估工具。Google将定期审查框架,以确保符合AI原则,促进安全与创新的平衡。

前沿安全框架介绍

Google DeepMind Blog Google DeepMind Blog · 2024-05-17T14:00:00Z

人工智能(AI)带来了巨大的好处,但也存在风险。紫色团队合作是一个综合框架,通过对抗性漏洞探测和安全解决方案相结合,开发可靠和负责任的AI。它解决了AI在生物技术中的生物安全风险,并提供了关键观点。紫色团队合作旨在引导AI朝向社会福祉,为共同福利赋予道德技术的力量。

生成 AI 的红队测试:是银弹还是安全娱乐?

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-01-29T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码