几何特征学习是机器学习的一个子领域，专注于自动发现能够捕捉数据底层几何结构的表示。与可能提取任意统计规律的一般特征学习不同，几何特征学习明确地将空间、拓扑或基于对称性的先验纳入学习过程。这种方法对于涉及3D点云、网格、图以及其他非欧几里得数据的应用至关重要，在这些场景中，标准的神经网络架构往往难以在旋转、平移或缩放等变换下泛化。
该领域源于对许多现实世界数据集（尤其是在计算机视觉和机器人技术中）并非平坦欧几里得网格的认识。传统的深度学习模型，如残差网络变体，假设固定的网格结构，这限制了它们对几何输入的适用性。几何特征学习通过设计尊重数据固有对称性的架构和损失函数来解决这一问题，从而实现更高效、更稳健的学习。关键概念包括不变特征（在变换下保持不变）和等变特征（随输入以可预测方式变换）。
历史基础
几何特征学习的知识根源可追溯到施乐帕洛阿尔托研究中心和麻省理工学院计算机科学与人工智能实验室等机构在计算机视觉和人工智能领域的早期工作。在20世纪80年代和90年代，研究人员探索了手工制作的几何描述符，如旋转图像和基于曲率的特征，用于物体识别。然而，这些方法需要大量的领域专业知识，且往往无法跨物体类别泛化。
随着2010年代深度学习的兴起，向学习型几何特征的转变加速了。伯克利人工智能研究和斯坦福人工智能实验室在点云处理方面产生了开创性工作，如2017年提出的PointNet，它引入了置换不变架构。与此同时，卡内基梅隆大学和多伦多大学为图神经网络做出了贡献，将几何特征学习推广到任意图结构。这些发展得到了迈克尔·乔丹和阿尼玛·阿南德库马尔等研究者的理论进展的补充，他们形式化了学习理论中的不变性和等变性。
核心原则
几何特征学习基于两个主要原则：不变性和等变性。不变性确保对象在经历对称变换时，其学习到的表示不会改变。例如，3D形状识别系统无论椅子朝向如何，都应以相同方式分类。相比之下，等变性要求表示以已知方式变换，使模型能够跟踪输入的变化。这对于机器人技术中的姿态估计等任务至关重要，因为模型必须输出旋转矩阵。
在架构上，这些原则通过专门的层来实现。谷歌深度思维和诺基亚贝尔实验室的研究中引入的群等变卷积，将标准滤波器替换为在对称群（如旋转群SO(3)）上共享的滤波器。图神经网络使用沿边的消息传递，这自然尊重图的连通性。Transformer模型中的注意力机制也可以通过编码空间关系的位次编码来适应几何数据。
应用
几何特征学习在机器人和自动驾驶领域得到了广泛使用。韦莫和特斯拉自动驾驶等公司采用这些技术进行LiDAR点云分割和物体检测，其中准确的几何理解对安全导航至关重要。在医学影像中，直觉外科以及三星研究院的研究团队使用几何特征进行器官分割和手术导航，利用扩展到体积数据的U-Net风格架构。
该领域还与生成建模交叉。OpenAI和Anthropic探索了大规模模型中的几何先验，尽管它们的主要焦点仍在于大型语言模型。更直接地，Graphcore和Groq开发了针对稀疏和几何操作的硬件优化，加速了此类模型的训练和推理。在科学计算中，巴巴原子研究中心和阿里巴巴达摩院将几何特征学习应用于分子动力学和材料发现。
挑战与未来方向
尽管取得了成功，几何特征学习仍面临若干挑战。可扩展性仍然是一个重大问题，因为处理高分辨率3D数据计算强度大。AMD、英特尔和英伟达（通过台积电制造）等硬件供应商正在开发专用加速器，但理论与实践效率之间的差距依然存在。数据稀缺是另一个问题，因为标记的几何数据集比图像或文本数据集更少且生产成本更高。使用随机旋转和平移的数据增强技术有助于缓解这一问题，但并不能完全解决。
展望未来，研究人员正在探索将几何特征学习与强化学习（尽管未在给定列表中明确提及，但这是一个相关领域）和自监督方法相结合的混合方法。将几何先验集成到大型语言模型中，例如用于推理文本中的空间关系，是一个新兴方向。正如约书亚·特南鲍姆在麻省理工学院计算机科学与人工智能实验室所指出的，最终目标是构建像人类一样直观理解物理世界的模型，这需要稳健的几何推理。未来十年，几何学习与通用人工智能系统之间可能会出现更紧密的合作。