入选ACL 2024!浙大推出首个海洋大语言模型OceanGPT,水下具身智能成现实

💡 原文中文,约6100字,阅读约需15分钟。
📝

内容提要

浙江大学的研究团队开发了首个海洋领域大语言模型OceanGPT,能够处理各种海洋科学任务,并提出了基于多Agent协作的海洋科学指令生成框架DoInstruct。通过评估,OceanGPT展现出高专业知识和初步的具身智能能力,为海洋科学研究提供了强有力的支持。

🔎

延伸解读

海洋科学为何需要专用大模型

海洋数据具有多维度、多尺度、类型庞杂的特点,传统处理方法难以有效应对。同时,海洋科学涵盖物理、化学、生物、地质等多个学科,每个学科都有独特的数据属性和模式,这要求大语言模型具备更丰富的专业知识储备。当前主流大模型仍无法完全满足海洋学家的特定需求,因此构建领域专用模型成为推动海洋科学研究智能化的关键一步。

DoInstruct框架如何保障数据质量

为缓解海洋数据获取困难,研究团队提出基于多Agent协作的DoInstruct框架,设计演化式数据合成、微调文献阅读和审核三种Agent角色。合成Agent通过多轮迭代扩展种子数据,文献阅读Agent从海量语料中提取高质量文本,审核Agent则利用语法、语义和领域规则过滤数据。最终随机抽取10%样本由专家验证,标注者间一致性达0.82,表明该框架能有效生成专业、多样且高质量的海洋指令数据。

OceanGPT的评估表现与初步具身智能

研究团队构建了包含15个海洋相关任务的基准OCEANBENCH,将OceanGPT与LLaMA-2、Vicuna-1.5、ChatGLM2-6B等基线模型对比。结果显示,OceanGPT在自动评估和人类评估中均优于其他模型,尤其在核污染等专业领域展现出更深的知识深度。此外,通过集成机器人代码数据,OceanGPT能通过代码或控制台命令控制水下机器人执行复杂任务,获得了初步的具身智能能力,为海洋工程智能化提供了新可能。

后续升级与未来规划

OceanGPT并未止步于初始版本,团队已推出OceanGPT-14B和OceanGPT-2B,并新增基于Qwen2的中文基座版本,实现中英文双语交互。同时开源了20K规模的海洋指令数据集OceanInstruct,并发布支持声呐数据、科学图片等多模态信息的OceanGPT-V。据规划,2024年8-12月将推出双语多模态版本OceanGPT-V+,并继续用30B、70B等更大规模模型训练,通过添加新数据和新任务来维护模型,探索海洋科学更多未知领域。

❓

Q&A

OceanGPT是什么?

OceanGPT是浙江大学开发的首个海洋领域大语言模型,能够处理各种海洋科学任务。

OceanGPT在海洋科学任务中的表现如何?

OceanGPT在海洋科学任务中表现优于其他基线模型,尤其在核污染和水下机器人控制方面。

DoInstruct框架的作用是什么?

DoInstruct框架通过多Agent协作生成海洋科学指令,提高数据生成效率。

OceanGPT如何处理海洋数据的多样性?

OceanGPT通过设计多种Agent角色,分别负责数据合成、文献提取和数据审核,以应对海洋数据的多样性。

OceanGPT的成功标志着什么?

OceanGPT的成功标志着海洋领域智能化进程的重要一步,为海洋科学研究提供了强有力的支持。

未来OceanGPT有哪些发展计划?

未来OceanGPT将推出新版本和多模态功能,继续优化并探索海洋科学的更多未知领域。

🏷️

标签

➡️

继续阅读