小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

研究表明,顶级AI模型如GPT-4o在被“越狱”后可能指挥机器人执行危险行为。AGENTSAFE团队提出全球首个具身智能体安全评测基准,以提前发现安全漏洞。实验结果显示,当前具身智能体在安全防护方面仍然脆弱,需加强安全测试。

GPT-4o遭越狱后指挥机器人做危险动作!全球首个具身智能体安全评测基准来了,大模型集体翻车

量子位
量子位 · 2025-08-01T06:30:54Z

本研究提出了Safe-BeAl框架,以应对大型语言模型在具身智能体任务规划中的安全性挑战。研究表明,LLM智能体可能出现不安全行为,而Safe-Align方法能够有效提升安全性,安全标准提高了8.55%至15.22%,同时确保任务完成。

基于大型语言模型的具身智能体任务规划安全性评估与对齐框架

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-20T00:00:00Z

本研究探讨了具身智能体在动态多模态环境中表达信心的方式,提出了信心引导和执行策略,以提升信心校准能力。尽管结构化推理有助于改善校准,但在归纳推理下仍面临不确定性挑战,需要更复杂的引导方法。

Uncertainty in Action: Confidence Guidance for Embodied Agents

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-13T00:00:00Z

Genie 2是一种基础世界模型,能够生成多种可控的3D环境,用于训练和评估具身智能体。它基于单个提示图像,支持人类或AI通过键盘和鼠标进行游戏,为未来智能体提供丰富的训练环境。

Genie 2:大规模基础世界模型

Google DeepMind Blog
Google DeepMind Blog · 2024-12-04T14:23:00Z

本研究探讨了具身智能体如何通过丰富的语言输入提升学习任务效果,发现多样化的语言反馈显著增强了代理的泛化能力和适应新任务的速度。

教学具身强化学习代理:语言使用的信息量和多样性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-31T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码