Pathway团队认为变压器架构已达极限,无法解决计算和能耗问题。他们正在开发一种新模型——龙蛋架构,灵感来自人脑,强调稀疏激活和神经元连接,以提高学习和记忆效率。该架构保留时间结构,解决了变压器的时间盲点和记忆问题,展现出更低的能耗和更好的数据效率。
正在访问的资源需要验证您是否真人。
或在微信中搜索公众号“小红花技术领袖”并关注
第二步:在公众号对话中发送验证码: