语义推理提高神经网络速度和准确性
💡
原文中文,约500字,阅读约需2分钟。
📝
内容提要
该文介绍了一种名为语义推理(SINF)的新框架,通过利用潜在表示中的内在冗余来减少计算负担,可以识别物体属于的语义簇并执行与该语义簇相关的子图进行推理。在基准测试中,SINF 可以减少 VGG19、VGG16 和 ResNet50 的推理时间,同时只损失少量精度。
🎯
关键要点
- 提出了一种名为语义推理(SINF)的新框架,通过利用潜在表示中的内在冗余来减少计算负担。
- SINF 可以识别物体属于的语义簇并执行与该语义簇相关的子图进行推理。
- 使用判别能力分数(DCS)方法提取每个簇特定的子图。
- 在基准测试中,SINF 能够减少 VGG19、VGG16 和 ResNet50 的推理时间,精度损失分别为 0.17%、3.75% 和 6.75%。
- DCS 在 VGG16、VGG19 和 ResNet50 中取得优秀的精度,分别比现有的判别分数高出 3.65%、4.25% 和 2.36%。
- DCS 作为剪枝标准,相比于已有的 ICLR2023 最新工作,可以提高 8.13% 的准确率,并减少 5.82% 的参数量。
- SINF 在考虑每个簇的准确率时,相对于基础模型 VGG16、VGG19 和 ResNet50,性能提高了平均分别为 5.73%、8.38% 和 6.36%。
➡️