选择欧几里德、射影、共形几何代数用于等变变换器
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
该文章介绍了一种基于射影几何代数的几何代数变换器(GATr),可用于构建可扩展的变压器架构。研究了欧几里德、射影和共形代数的不同版本的该架构,并在理论和实践中对它们进行评估。
🎯
关键要点
- 基于射影几何代数的几何代数变换器(GATr)是一种多功能的几何深度学习架构。
- GATr可用于根据任何几何或Clifford代数构建可扩展的变压器架构。
- 研究了欧几里德、射影和共形代数的不同版本的该架构,适用于表示3D数据。
- 欧几里德架构计算成本低,但对称群较小且样本效率较低。
- 射影模型的表达能力不足。
- 共形代数和改进版本的射影代数定义了强大而高效的架构。
➡️