OSWorld: 多模态代理在真实计算机环境中的开放式任务评测

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

WebVoyager是一种创新的网络代理,通过与真实网站的交互来完成用户指令。使用GPT-4V的多模态理解能力,WebVoyager在15个广泛使用的网站上获得了55.7%的任务成功率,超过了其他设置。自动评估与人类判断达到了85.3%的一致性。

🎯

关键要点

  • WebVoyager是一种创新的大型多模态模型驱动的网络代理。

  • WebVoyager通过与真实网站的交互来完成用户指令的端到端。

  • 提出了一种新的网络代理评估协议,以解决开放式网络代理任务的自动评估挑战。

  • WebVoyager在15个广泛使用的网站上获得了55.7%的任务成功率。

  • WebVoyager的表现超过了GPT-4(所有工具)和WebVoyager(仅文本)设置。

  • 自动评估与人类判断达到了85.3%的一致性。

  • 为在真实世界中进一步开发网络代理铺平了道路。

➡️

继续阅读