语义推理提高神经网络速度和准确性

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

该文介绍了一种名为语义推理(SINF)的新框架,通过利用潜在表示中的内在冗余来减少计算负担,可以识别物体属于的语义簇并执行与该语义簇相关的子图进行推理。在基准测试中,SINF 可以减少 VGG19、VGG16 和 ResNet50 的推理时间,同时只损失少量精度。

🎯

关键要点

  • 提出了一种名为语义推理(SINF)的新框架,通过利用潜在表示中的内在冗余来减少计算负担。
  • SINF 可以识别物体属于的语义簇并执行与该语义簇相关的子图进行推理。
  • 使用判别能力分数(DCS)方法提取每个簇特定的子图。
  • 在基准测试中,SINF 能够减少 VGG19、VGG16 和 ResNet50 的推理时间,精度损失分别为 0.17%、3.75% 和 6.75%。
  • DCS 在 VGG16、VGG19 和 ResNet50 中取得优秀的精度,分别比现有的判别分数高出 3.65%、4.25% 和 2.36%。
  • DCS 作为剪枝标准,相比于已有的 ICLR2023 最新工作,可以提高 8.13% 的准确率,并减少 5.82% 的参数量。
  • SINF 在考虑每个簇的准确率时,相对于基础模型 VGG16、VGG19 和 ResNet50,性能提高了平均分别为 5.73%、8.38% 和 6.36%。
➡️

继续阅读