能耗降低93.3%,复旦、港大团队开发受大脑启发的动态神经网络,实现超强2D、3D视觉

能耗降低93.3%,复旦、港大团队开发受大脑启发的动态神经网络,实现超强2D、3D视觉

💡 原文中文,约3700字,阅读约需9分钟。
📝

内容提要

复旦大学、香港大学和中国科学院的研究团队提出了一种基于语义记忆的动态神经网络设计方案,使用忆阻器实现。该设计在ResNet和PointNet++上验证,准确度与软件相当,计算预算和能耗分别减少了48.1%和15.9%。这种设计受到大脑的启发,能够将输入与过去的经验联系起来,并实现低能耗高效运算。研究为未来模拟大脑和计算资源的自适应分配提供了启示。

🎯

关键要点

  • 复旦大学、香港大学和中国科学院的研究团队提出了一种基于语义记忆的动态神经网络设计方案,使用忆阻器实现。
  • 该设计在ResNet和PointNet++上验证,准确度与软件相当,计算预算和能耗分别减少了48.1%和15.9%。
  • 这种设计受到大脑的启发,能够将输入与过去的经验联系起来,实现低能耗高效运算。
  • 大脑运算是动态的,具有联想能力,而传统人工智能模型是静态的,无法将输入与过去的经验联系起来。
  • 研究团队提出的动态神经网络将传入的数据与存储为语义向量的过去经验相关联。
  • 该网络在抗噪三元忆阻器的内存计算和内容可寻址存储器电路上物理实现。
  • 研究表明,动态神经网络在处理任务时能够高效地消耗最少的能量。
  • 基于忆阻器的CIM电路和CAM电路分别用于实现计算和存储,克服了冯·诺依曼瓶颈。
  • 研究人员使用三元量化技术来减轻写入和读取噪声对分类准确率的影响。
  • 动态PointNet++模型用于对3D点云进行分类,强调了3D传感技术的重要性。
  • 研究通过优化各层的阈值,平衡计算预算和准确率,显著提高了能源效率。
➡️

继续阅读