北京大学与亚马逊联合推出Griffin,一个图中心的关系型数据库基础模型,旨在解决复杂的多表交互和异质特征问题。该模型通过将关系数据库视为动态异质图进行建模,具备良好的可迁移性和泛化能力,已在国际会议上获得认可。Griffin采用统一编码和深度关系推理网络,经过三阶段训练,显著提升了多种关系数据库任务的表现。
介绍了使用谷歌的新架构的开放语言模型Griffin,结合了线性递归和局部注意力,表现出色。具有固定大小的状态,减少内存使用并在长序列上实现高效的推理。提供了预训练的模型,包含2B个非嵌入参数和调整的指令变种。性能与Gemma-2B相当。
完成下面两步后,将自动完成登录并继续当前操作。