MMInA:多跳多模态互联网代理的基准测试

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

WebVoyager是一种创新的网络代理,通过与真实网站的交互来完成用户指令。使用GPT-4V的多模态理解能力,WebVoyager在15个广泛使用的网站上获得了55.7%的任务成功率,超过了其他设置。自动评估与人类判断达到了85.3%的一致性。

🎯

关键要点

  • WebVoyager是一种创新的大型多模态模型驱动的网络代理。
  • WebVoyager通过与真实网站的交互来完成用户指令的端到端。
  • 提出了一种新的网络代理评估协议,以解决开放式网络代理任务的自动评估挑战。
  • WebVoyager利用了GPT-4V的强大多模态理解能力。
  • 在15个广泛使用的网站上,WebVoyager获得了55.7%的任务成功率。
  • WebVoyager的表现超过了GPT-4(所有工具)和WebVoyager(仅文本)设置。
  • 自动评估与人类判断达到了85.3%的一致性。
  • 为在真实世界中进一步开发网络代理铺平了道路。
➡️

继续阅读