本文提出了一种轻量、紧凑的体系结构，适用于计算资源有限的应用。研究了神经网络二值化的效果，并提出了多种正交方法来提高性能。同时，提出了一种新的分层、并行和多尺度残差架构，填补了原始网络与其二值化对应物之间的差距，提高了性能。在人体姿势估计和面部对齐等任务上获得了最前沿的表现。探究了其性质与性能，并支持关于面部部分分割的其他结果。

该研究开发了适用于西班牙语的RoBERTa压缩语言模型，旨在提供高效的西班牙语问答能力，并在计算资源有限的环境中广泛应用。该工作为进一步研究和压缩西班牙语模型在各种NLP任务中的应用提供了起点。