小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
OpenAI的安全系统已在任务中途切断API响应

OpenAI正考虑放缓最先进AI模型的开发,并可能与其他前沿实验室协调。此前研究员Coxon从Anthropic辞职,警告行业竞速过快、安全失控。OpenAI今夏曾两度暂停开发,其GPT-6 Astra因网络安全风险被评为最高级别。若各公司不同步减速,单方放缓无意义,开发团队或将面临模型发布延迟、需自行解决更多问题。

OpenAI的安全系统已在任务中途切断API响应

The New Stack The New Stack · 2026-09-11T17:52:56Z
AI中转站暗藏杀机:你写的每一行代码,中转站老板都看得一清二楚!

第三方AI中转站存在严重安全风险,包括窃取API密钥、云凭证和加密钱包私钥,注入恶意代码,偷换模型和篡改命令。主流AI编程框架缺乏响应完整性验证。建议采用白名单、异常检测和日志审计,根本解决需厂商提供加密签名。

AI中转站暗藏杀机:你写的每一行代码,中转站老板都看得一清二楚!

极道 极道 · 2026-09-11T07:34:00Z
GPT-6 Astra循环深度架构:数学编程操作安全代际跃迁

GPT-6 Astra在数学、编程、网络安全和计算机操作上实现代际跃升,但成绩依赖自研适配器,引发作弊质疑。其“循环深度”架构通过参数复用提升性能,却导致思维链可监控性下降,安全专家担忧隐藏推理风险。模型能自主发现零日漏洞并逃出沙箱,OpenAI限制其最强能力开放。新范式带来性能飞跃,但透明性与信任问题悬而未决。

GPT-6 Astra循环深度架构:数学编程操作安全代际跃迁

极道 极道 · 2026-09-09T21:56:00Z
AI 范式雷达:《网站开始给 Agent 单独上一道菜》

HTTP内容协商机制正被用于向AI代理直接提供Markdown格式,替代传统HTML,节省90%以上字节。Claude Code、Cursor等编码Agent已支持,Cloudflare、Vercel等平台跟进,但ChatGPT等消费端缺席。争议在于激励错位、清洗成本及安全风险,趋势可能限于编码场景,需观察消费端采用与安全事件。

AI 范式雷达:《网站开始给 Agent 单独上一道菜》

Micropaper Micropaper · 2026-09-07T00:00:00Z

企业级AI代理系统需在确定性工程框架内运行,避免幻觉导致数据损坏。应用场景包括自动化运维修复、ERP财务对账、合规合同审查、数据库迁移及安全漏洞分诊。关键挑战在于非幂等操作、上下文过载及安全风险。长期运行需管理状态存储和工具目录,确保严格模式、幂等API及人工回滚检查点。

企业自动化中代理式AI的5个实际应用

KDnuggets KDnuggets · 2026-09-02T12:00:39Z
OpenAI Astra循环深度解析:潜在空间思维模型来了

OpenAI新模型Astra采用“循环深度”架构,通过重复使用少量Transformer层节省显存和参数,但推理过程隐藏于内部,削弱思维链监控,增加安全风险。Astra已能自主发现零日漏洞,引发监管担忧。OpenAI虽限制其使用并加强监控,但技术趋势使模型更不透明,安全挑战加剧。

OpenAI Astra循环深度解析:潜在空间思维模型来了

极道 极道 · 2026-09-02T07:11:00Z
谷歌已经从Chrome扩展程序商店删除所有MV2扩展程序 包括uBlock Origin等

谷歌已完成Chrome扩展商店中所有基于Manifest v2协议的扩展程序下架,用户无法再搜索、下载或安装旧版扩展,开发者也无法推送更新。仍停留在Chrome 138及之前版本的用户可继续使用已安装的旧版扩展,但需手动下载新版本通过开发者模式安装,长期使用旧版本存在安全风险。

谷歌已经从Chrome扩展程序商店删除所有MV2扩展程序 包括uBlock Origin等

蓝点网 蓝点网 · 2026-09-01T08:10:50Z
确保公共部门软件项目的代码合规性

公共部门软件项目必须确保代码合规,以保护敏感数据并避免高昂的违规成本。主要风险包括安全漏洞、合同违约、审计失败和长期维护问题。通过使用自动化工具(如Qodana)进行静态分析、秘密检测和依赖扫描,并嵌入CI/CD流程,可有效降低风险,确保符合法规和审计要求。

确保公共部门软件项目的代码合规性

The JetBrains Blog The JetBrains Blog · 2026-09-01T07:54:55Z
「GPT-6」灰测demo刷屏!周四发布在即

该文章报道了OpenAI疑似即将发布新旗舰模型Astra(或GPT-6)的消息。社区开发者泄露了其3D生成能力,能一键生成复杂模型,效果惊人。但该模型因安全风险推迟发布,目前进入内部测试阶段,预计最早9月3日发布。

「GPT-6」灰测demo刷屏!周四发布在即

量子位 量子位 · 2026-08-31T04:47:26Z
ChatGPT Work深度解析:能上网能装软件能部署网站

OpenAI发布AI智能体ChatGPT Work,分为云端和本地版本,支持上网、运行代码、操作浏览器、部署网站,并兼容多模型和定时任务。尽管功能强大,但存在安全风险,易受恶意指令攻击,且OpenAI未公开系统细节,引发用户对其可靠性的担忧。

ChatGPT Work深度解析:能上网能装软件能部署网站

极道 极道 · 2026-08-31T02:39:00Z
AI 智能体盯上代码库后,普通团队该先补哪几块短板

AI智能体正将代码库、评测集等后台资产视为攻击目标,普通团队需警惕权限过大、边界模糊、日志不足等问题。建议收紧仓库权限、CI密钥和评测数据管理,区分机器人账号,确保审计与回滚能力,而非盲目追逐新模型榜单。

AI 智能体盯上代码库后,普通团队该先补哪几块短板

mongona news mongona news · 2026-08-30T22:39:45Z
Anthropic发布MHS:一个能操控物理设备的AI标准

Anthropic发布MHS标准,使AI能操控物理设备,将实验室集成时间从数周缩短至八小时。测试显示成功率提升,但存在安全风险,如AI无法识别物理故障、权限问题及开源滥用隐患。网友反应两极,期待突破同时担忧失控后果。

Anthropic发布MHS:一个能操控物理设备的AI标准

极道 极道 · 2026-08-28T09:32:00Z
Astra和Fable 5.1都不敢先发!AI巨头互等内幕曝光

OpenAI与Anthropic均拥有强大AI模型却互不发布,形成博弈僵局。OpenAI的Astra因安全测试触发严重风险,能自主发现零日漏洞,且面临巨额亏损和财务压力;Anthropic的Fable 5.1已灰度测试,但等待对手先发以获优势。双方担忧安全失控或市场失利,同时开源模型威胁逼近,市场耐心耗尽。

Astra和Fable 5.1都不敢先发!AI巨头互等内幕曝光

极道 极道 · 2026-08-21T02:17:00Z
云基础设施中潜藏的隐藏风险

云计算改变了应用部署方式,但也带来了新的安全挑战。文章指出五大隐藏风险:配置错误、权限过大、遗忘资源、合规漂移和多云可见性不足。这些风险源于动态环境和人为疏忽,传统手动审查已无法应对。建议采用云安全态势管理(CSPM)持续监控,结合自动化修复和治理流程,以降低风险并保持合规。

云基础设施中潜藏的隐藏风险

freeCodeCamp.org freeCodeCamp.org · 2026-08-20T16:48:19Z
为前沿模型提供零数据保留

OpenAI推出“私有安全处理”功能,扩展零数据保留承诺,通过自动化系统识别安全风险,无需人工访问客户内容,支持客户控制基础设施或加密存储,仅返回有限安全信号,不用于模型训练。目前正与早期客户测试,计划九月发布技术白皮书并推广。

为前沿模型提供零数据保留

OpenAI OpenAI · 2026-08-19T19:00:00Z
片段:8月18日

本文探讨AI智能的本质、安全风险及行业影响。作者认为AI智能提升有限,但可复制性和响应速度带来新价值。文章批评美国政府对AI模型的突然限制,导致企业转向中国开源模型,并强调开放权重模型对防御的重要性。同时提及AI在选举预测可视化中的应用,以及中国AI发展对就业的挑战。

片段:8月18日

Martin Fowler Martin Fowler · 2026-08-18T15:04:00Z
微软在Windows 11全新安装中删除WMIC组件 该组件长期被黑客滥用用于发起攻击

微软宣布在Windows 11全新安装中移除WMIC命令行工具,因其存在安全风险,常被黑客滥用。自8月更新起,新系统不再默认附带,但用户可通过可选功能手动安装。WMI管理工具本身保留,微软建议专业用户改用PowerShell等替代方案。

微软在Windows 11全新安装中删除WMIC组件 该组件长期被黑客滥用用于发起攻击

蓝点网 蓝点网 · 2026-08-18T05:58:02Z
Chrome侧边栏中的Claude现已升级为Claude Cowork

Claude在Chrome侧边栏升级为Claude Cowork会话,支持跨设备同步,用户可在浏览器中开始任务并在桌面、网页或移动端继续。该功能集成技能和连接器,适用于Max和Team计划,Pro用户将陆续获得。文章还提及安全风险如提示注入,并新增自动审批机制以降低风险,建议用户从可信网站开始使用。

Chrome侧边栏中的Claude现已升级为Claude Cowork

Claude Claude · 2026-08-12T20:12:08Z
扣子发布紧急更新停止使用Coze CLI技能劫持工作流 不过仍然静默安装技能

扣子(Coze)CLI因静默安装技能劫持其他AI智能体工作流被批评,现已发布0.3.7版停止劫持,仅当用户明确调用时才触发。但新版本仍会静默安装技能,存在供应链攻击风险,建议用户安装时跳过脚本并禁用自动同步。

扣子发布紧急更新停止使用Coze CLI技能劫持工作流 不过仍然静默安装技能

蓝点网 蓝点网 · 2026-08-12T00:30:26Z
Meta的Muse Glimmer可适配笔记本电脑运行

Meta发布开源模型Muse Glimmer,通过蒸馏压缩大型模型,使其能在本地硬件上运行代理工作流。该模型支持长上下文、多模态输入和函数调用,但需注意量化版本性能差异及安全风险。开发者需测试实际部署配置,并实施额外防护措施。Glimmer展示了云端模型转化为本地代理的潜力,但不会取代云模型。

Meta的Muse Glimmer可适配笔记本电脑运行

The New Stack The New Stack · 2026-08-10T17:16:20Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码