地理空間基盤モデル（geospatial foundation model）は、地球観測データ、主に衛星画像や航空画像を処理・分析するために設計されたAIモデルの一種である。これは、膨大なデータセットで事前学習され、その後特定の下流タスクに適応される大規模なニューラルネットワークである基盤モデルのより広いカテゴリに属する。単一の目的のために構築された従来の機械学習モデルとは異なり、地理空間基盤モデルは地球表面の一般的な表現を学習し、限られた追加学習データで幅広いアプリケーションをサポートできるようにする。
これらのモデルは、もともと自然言語処理のために開発されたトランスフォーマーアーキテクチャに基づくことが多い深層学習アーキテクチャを活用する。数百万枚のラベルなしまたは弱ラベル付き衛星画像で事前学習することにより、モデルは地形、植生、都市構造、水域、その他の地理的特徴に関連するパターンを捕捉する。この事前学習フェーズは計算集約的であり、通常はAWS TrainiumチップやNVIDIA GPUなどの専用ハードウェアを必要とするが、結果として得られるモデルはより小さなタスク固有のデータセットで微調整できる。
事前学習とデータソース
地理空間基盤モデルの有効性は、事前学習データの多様性と規模に大きく依存する。一般的なソースには、中解像度で全球をカバーするLandsatやSentinel-2などのプログラムからの光学画像、およびMaxarやPlanetなどの企業からの高解像度商用画像が含まれる。一部のモデルは、雲を透過し夜間でも動作する合成開口レーダー（SAR）データも組み込んでおり、補完的な情報を提供する。
事前学習の目的には、モデルが画像の欠落部分を予測したり、同じシーンの拡張バージョンを区別したりすることを学習する自己教師あり学習が含まれることが多い。例えば、モデルは衛星画像のマスクされた領域を再構築するように訓練され、空間的文脈と土地被覆パターンを理解することを強制される。このアプローチは、地理空間分析における重大なボトルネックである高価な人間によるラベル付きデータの必要性を減らす。
主要な機能とタスク
地理空間基盤モデルは、従来は別々の専用モデルを必要とした多数のタスクに微調整できる。一般的なアプリケーションには以下が含まれる：
- 土地被覆分類：ピクセルまたは領域が森林、水域、農地、都市域、またはその他のカテゴリを表すかどうかを識別する。
- 変化検出：異なる日付の画像を比較して、森林破壊、都市拡大、または災害被害を特定する。
- 物体検出：建物、船舶、太陽光パネルなどの特定の特徴を特定する。
- セグメンテーション：農地、道路、または水域の正確な境界を描く。
モデルがすでに一般的な視覚的特徴を学習しているため、微調整には通常、ゼロから訓練されたモデルに必要な数万件と比較して、数百から数千件のラベル付き例のみが必要である。これにより、注釈予算が限られた組織にとって地理空間分析がより利用しやすくなる。
注目すべきモデルと研究
いくつかの地理空間基盤モデルが学界および産業界のグループによって開発されている。顕著な例の1つは、2022年にMIT CSAILの研究者によって導入されたSatMAEであり、衛星画像にマスク付きオートエンコーダーアプローチを適用する。もう1つは、NASAとIBMによって開発され2023年にリリースされたPrithviであり、トランスフォーマーアーキテクチャに基づき、NASAのHarmonized Landsat Sentinelデータで訓練されている。Prithviは、洪水マッピングや山火事の焼け跡検出などのタスクに使用されている。
2024年には、AI2（アレン人工知能研究所）によってClayがリリースされ、グローバルなマルチセンサー事前学習に焦点を当てている。さらに、Oracle CloudやGoogle Cloudなどの商用プロバイダーは、基盤となるインフラを管理せずにAPIを介してユーザーがアクセスできるように、地理空間基盤モデルをクラウドプラットフォームの一部として提供し始めている。スタンフォードAIラボやバークレーAIリサーチなどの研究グループも、特に効率的な事前学習方法の開発において、この分野の進展に貢献している。
課題と限界
その可能性にもかかわらず、地理空間基盤モデルはいくつかの課題に直面している。主要な問題の1つはドメインシフトである：ある地域やセンサーで事前学習されたモデルは、気候、土地利用、または撮像条件の違いにより、別の地域では性能が低下する可能性がある。例えば、主に北米の画像で訓練されたモデルは、熱帯雨林や砂漠の景観に苦労する可能性がある。研究者はデータ拡張やドメイン適応などの技術を通じてこれに対処しているが、依然として未解決の問題である。
もう1つの限界は解像度である。多くのグローバルデータセットはピクセルあたり10〜30メートルの解像度を持ち、個々の建物や車両などの小さな特徴を検出するには不十分である。高解像度モデルはより多くのストレージと計算を必要とし、その事前学習データは多くの場合プロプライエタリであり、再現性を制限する。さらに、季節変化や雲量などの時間的ダイナミクスは、静的なシーンを想定するモデルを混乱させる可能性があるが、一部の新しいモデルは時間を明示的な入力次元として組み込んでいる。
最後に、バイアスと公平性に関する懸念がある。事前学習データが特定の地理的地域を過剰に代表している場合、モデルは過小代表の地域では精度が低くなり、誤った政策決定につながる可能性がある。全球にわたる公平な性能を確保することは、活発な研究分野である。
将来の方向性
この分野は急速に進化しており、いくつかのトレンドがその将来を形作っている。1つの方向性はマルチモーダルデータの統合であり、光学画像とSAR、標高モデル、さらにはテキストメタデータを組み合わせる。もう1つは、エッジデバイスで実行したり最小限の計算で微調整したりできるより小型で効率的なモデルの開発であり、インフラが限られた発展途上国でも使用可能にする。
また、数週間先の作物収量や洪水範囲を予測するなどの時間的予測のための基盤モデルへの関心も高まっている。これらのモデルは、静的な画像分析を超えて動的なプロセスを捕捉するように拡張される。生成AI技術が進歩するにつれて、一部の研究者は地理空間モデルが訓練やシミュレーションの目的で合成衛星画像を生成できるかどうかを探求しているが、これは誤情報に関する倫理的問題を提起する。
学界、NASAや欧州宇宙機関などの政府機関、および民間企業間の連携は、ベンチマークを標準化し、気候科学者から都市計画者まで幅広いユーザーにこれらのモデルが利益をもたらすことを確実にするために重要となる。
関連項目
- 機械学習
- 深層学習
- トランスフォーマー
- リモートセンシング
- コンピュータビジョン