入选ACL 2024!浙大推出首个海洋大语言模型OceanGPT,水下具身智能成现实
内容提要
浙江大学的研究团队开发了首个海洋领域大语言模型OceanGPT,能够处理各种海洋科学任务,并提出了基于多Agent协作的海洋科学指令生成框架DoInstruct。通过评估,OceanGPT展现出高专业知识和初步的具身智能能力,为海洋科学研究提供了强有力的支持。
延伸解读
海洋科学为何需要专用大模型
海洋数据具有多维度、多尺度、类型庞杂的特点,传统处理方法难以有效应对。同时,海洋科学涵盖物理、化学、生物、地质等多个学科,每个学科都有独特的数据属性和模式,这要求大语言模型具备更丰富的专业知识储备。当前主流大模型仍无法完全满足海洋学家的特定需求,因此构建领域专用模型成为推动海洋科学研究智能化的关键一步。
DoInstruct框架如何保障数据质量
为缓解海洋数据获取困难,研究团队提出基于多Agent协作的DoInstruct框架,设计演化式数据合成、微调文献阅读和审核三种Agent角色。合成Agent通过多轮迭代扩展种子数据,文献阅读Agent从海量语料中提取高质量文本,审核Agent则利用语法、语义和领域规则过滤数据。最终随机抽取10%样本由专家验证,标注者间一致性达0.82,表明该框架能有效生成专业、多样且高质量的海洋指令数据。
OceanGPT的评估表现与初步具身智能
研究团队构建了包含15个海洋相关任务的基准OCEANBENCH,将OceanGPT与LLaMA-2、Vicuna-1.5、ChatGLM2-6B等基线模型对比。结果显示,OceanGPT在自动评估和人类评估中均优于其他模型,尤其在核污染等专业领域展现出更深的知识深度。此外,通过集成机器人代码数据,OceanGPT能通过代码或控制台命令控制水下机器人执行复杂任务,获得了初步的具身智能能力,为海洋工程智能化提供了新可能。
后续升级与未来规划
OceanGPT并未止步于初始版本,团队已推出OceanGPT-14B和OceanGPT-2B,并新增基于Qwen2的中文基座版本,实现中英文双语交互。同时开源了20K规模的海洋指令数据集OceanInstruct,并发布支持声呐数据、科学图片等多模态信息的OceanGPT-V。据规划,2024年8-12月将推出双语多模态版本OceanGPT-V+,并继续用30B、70B等更大规模模型训练,通过添加新数据和新任务来维护模型,探索海洋科学更多未知领域。
Q&A
OceanGPT是什么?
OceanGPT是浙江大学开发的首个海洋领域大语言模型,能够处理各种海洋科学任务。
OceanGPT在海洋科学任务中的表现如何?
OceanGPT在海洋科学任务中表现优于其他基线模型,尤其在核污染和水下机器人控制方面。
DoInstruct框架的作用是什么?
DoInstruct框架通过多Agent协作生成海洋科学指令,提高数据生成效率。
OceanGPT如何处理海洋数据的多样性?
OceanGPT通过设计多种Agent角色,分别负责数据合成、文献提取和数据审核,以应对海洋数据的多样性。
OceanGPT的成功标志着什么?
OceanGPT的成功标志着海洋领域智能化进程的重要一步,为海洋科学研究提供了强有力的支持。
未来OceanGPT有哪些发展计划?
未来OceanGPT将推出新版本和多模态功能,继续优化并探索海洋科学的更多未知领域。