小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
为什么你写了 3000 字 Prompt,系统还是不可靠? - 蝈蝈俊

Prompt仅改变语义概率,无法保证系统可靠。复杂任务存在语义、状态、环境、目标、执行、安全六类不确定性,需通过工作流构建结构、状态、执行、数据、安全、认知六层防线。Prompt负责理解生成,工作流负责边界与恢复。复杂任务应采用混合架构,硬约束外置,不能只依赖Prompt。

为什么你写了 3000 字 Prompt,系统还是不可靠? - 蝈蝈俊

蝈蝈俊 蝈蝈俊 · 2026-09-30T10:39:00Z
新方法使AI能够应对安全关键场景

麻省理工学院研发出HardFlow算法,使预训练生成式AI在机器人、物理控制和计算机视觉等高风险任务中满足硬约束。该方法仅在最终输出施加约束,而非每步强制,从而保留生成自由度并提升解的质量。实验显示约束满足率达100%,路径更优且计算时间不增,无需重新训练即可部署。

新方法使AI能够应对安全关键场景

MIT News - Artificial intelligence MIT News - Artificial intelligence · 2026-09-14T04:00:00Z

本文探讨AI生成代码时代,系统架构需通过设计约束控制错误爆炸半径。核心是分层防御:类型系统、Schema契约、契约测试、策略引擎和运行时沙箱,将错误限制在可接受范围内。强调硬约束优于提示词,按副作用不可逆性分层设置约束强度,并指出不可逆路径省略硬闸门是已知反模式。

【系统架构设计】防御性架构:用系统设计约束 AI 犯错

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-08-03T00:00:00Z

本文探讨了在深度神经网络中实施硬约束的方法,以提高预测质量。研究表明,硬约束在性能上优于软约束。提出的两阶段训练方法有效满足各种约束,提升模型性能并确保系统属性合规,适用于多种神经网络架构。

具有通用逼近保证的硬约束神经网络

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-14T00:00:00Z

该文综述将领域知识作为约束融入深度神经网络的方法,归纳出特征空间操作、假设空间修改、数据扩增、正则化与受约束学习五类途径,并介绍小波滤波网络、随机增广拉格朗日正则化、可控性约束建模、约束传播训练、物理先验注入等具体工作,证明硬约束可提升预测精度与可解释性。

通过定制损失函数获取约束的深度神经网络

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-03-04T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码