幾何学的特徴学習は、Machine learningの一分野であり、データの基盤となる幾何学的構造を捉える表現の自動発見に関わる。一般的な特徴学習が統計的な規則性を抽出するのに対し、幾何学的特徴学習は、空間的、位相的、または対称性に基づく事前知識を学習プロセスに明示的に組み込む。このアプローチは、3D点群、メッシュ、グラフ、その他の非ユークリッドデータを扱うアプリケーションの中心であり、標準的なNeural networkアーキテクチャは、回転、平行移動、スケーリングなどの変換をまたいで一般化することがしばしば困難である。
この分野は、コンピュータビジョンやロボティクスにおける多くの実世界データセットが平坦なユークリッドグリッドではないという認識から生まれた。Residual Network (ResNet)の変種などの従来のDeep learningモデルは、固定グリッド構造を仮定しており、幾何学的入力への適用可能性を制限している。幾何学的特徴学習は、データの固有の対称性を尊重するアーキテクチャと損失関数を設計することでこれに対処し、より効率的で堅牢な学習を可能にする。主要な概念には、変換下で不変な不変特徴と、入力とともに予測可能に変換する等変特徴が含まれる。
歴史的基盤
幾何学的特徴学習の知的ルーツは、Xerox PARCやMIT CSAILなどの機関におけるコンピュータビジョンとArtificial intelligenceの初期の研究に遡る。1980年代から1990年代にかけて、研究者たちは物体認識のために、スピン画像や曲率ベースの特徴などの手作りの幾何学的記述子を探求した。しかし、これらの方法はかなりの専門知識を必要とし、物体クラスをまたいで一般化できないことが多かった。
学習された幾何学的特徴への移行は、2010年代のDeep learningの台頭とともに勢いを増した。BAIR (Berkeley AI Research)とStanford AI Labは、2017年のPointNetなど、点群処理に関する先駆的な研究を生み出し、置換不変アーキテクチャを導入した。同時に、Carnegie Mellon UniversityとUniversity of Torontoは、幾何学的特徴学習を任意のグラフ構造に一般化するグラフニューラルネットワークに貢献した。これらの発展は、Michael I. JordanやAnima Anandkumarなどの研究者による理論的進歩によって補完され、彼らは学習理論における不変性と等変性を形式化した。
基本原則
幾何学的特徴学習は、不変性と等変性という2つの主要な原則に基づいている。不変性は、オブジェクトが対称変換を受けたときに、学習された表現が変化しないことを保証する。例えば、3D形状認識システムは、向きに関係なく椅子を同じように分類すべきである。対照的に、等変性は、表現が既知の方法で変換されることを要求し、モデルが入力の変化を追跡できるようにする。これは、モデルが回転行列を出力しなければならないロボティクスにおけるポーズ推定などのタスクにとって重要である。
アーキテクチャ的には、これらの原則は特殊な層を通じて実装される。Google DeepMindとNokia Bell Labsの研究で導入された群等変畳み込みは、標準的なフィルタを、回転群SO(3)などの対称群にわたって共有されるものに置き換える。グラフニューラルネットワークは、エッジに沿ったメッセージパッシングを使用し、グラフの接続性を自然に尊重する。Transformer (architecture)モデルにおけるような注意機構も、空間関係をエンコードする位置エンコーディングを組み込むことで、幾何学的データに適応させることができる。
応用
幾何学的特徴学習は、ロボティクスや自動運転において広く使用されている。WaymoやTeslaなどの企業は、安全なナビゲーションに正確な幾何学的理解が重要であるLiDAR点群セグメンテーションや物体検出にこれらの技術を採用している。医療画像処理では、Intuitive SurgicalやSamsung Researchの研究グループが、ボリュームデータに拡張されたU-Netスタイルのアーキテクチャを活用し、臓器セグメンテーションや手術ナビゲーションに幾何学的特徴を使用している。
この分野は生成モデリングとも交差する。OpenAIとAnthropicは大規模モデルにおける幾何学的事前知識を探求しているが、彼らの主な焦点はLarge language modelのままである。より直接的には、GraphcoreとGroqはスパースおよび幾何学的演算のためのハードウェア最適化を開発し、そのようなモデルのトレーニングと推論を加速している。科学計算では、Bhabha Atomic Research CentreとAlibaba DAMO Academyが分子動力学と材料発見に幾何学的特徴学習を適用している。
課題と今後の方向性
その成功にもかかわらず、幾何学的特徴学習はいくつかの課題に直面している。高解像度の3Dデータの処理は計算集約的であるため、スケーラビリティは依然として重要な問題である。AMD、Intel、NVIDIA（TSMC製造経由）などのハードウェアベンダーは専用アクセラレータを開発しているが、理論的効率と実用的効率のギャップは依然として残っている。データ不足ももう一つの問題であり、ラベル付き幾何学的データセットは、画像やテキストデータセットよりも少なく、生成コストが高い。ランダムな回転と平行移動を用いたData Augmentationなどの技術はこれを軽減するのに役立つが、完全に解決するわけではない。
今後、研究者たちは幾何学的特徴学習とReinforcement learning（提供されたリストには明示されていないが、関連分野である）および自己教師あり手法を組み合わせたハイブリッドアプローチを探求している。例えばテキスト内の空間関係を推論するために、幾何学的事前知識をLarge language modelに統合することは、新たな方向性である。MIT CSAILのJoshua Tenenbaumが指摘するように、究極の目標は、人間と同じくらい直感的に物理世界を理解するモデルを構築することであり、それには堅牢な幾何学的推論が必要である。次の10年は、幾何学的学習と汎用Artificial intelligenceシステムの間のより緊密な連携が見られるだろう。