TinyFormer：小型设备上高效的 Transformer 设计与部署
原文中文，约400字，阅读约需1分钟。发表于：。本文提出了 TinyFormer，这是一个专门设计用于在微控制器单元上开发和部署资源高效的 transformers 的框架，通过 SuperNAS、SparseNAS 和 SparseEngine 的组合，实现了在 MCUs 上高效部署 sparse models 以及稀疏推理。评估结果表明，TinyFormer 能够以 96.1% 的准确率开发有效的...
TinyFormer是一个专门设计用于在微控制器单元上开发和部署资源高效的transformers的框架。它通过SuperNAS、SparseNAS和SparseEngine的组合，实现了在MCUs上高效部署sparse models以及稀疏推理。评估结果表明，TinyFormer能够以96.1%的准确率开发有效的transformers，并在稀疏推理上相对于CMSIS-NN库实现了高达12.2倍的加速。
