本研究解决了在大图上学习表示的效率问题，挑战在于现有变换器模型通常过于复杂且层数过多。提出的SGFormer简化了模型架构，通过单层全局注意力实现线性缩放，并保持了表示学习的能力。研究表明，SGFormer在中等规模图上具有显著的推理加速效果，尤其在标记数据有限的情况下依然表现出竞争力。

本文介绍了多种基于变压器的全景深度估计和语义分割方法，如 PanoFormer、EGformer 和 DATFormer。这些方法通过引入球面几何知识和自适应模块，显著提高了深度估计的准确性和鲁棒性，实验结果在多个数据集上表现优异。