人工知能におけるグラウンディングとは、システムが使用する記号、単語、または表現を、実世界の指示対象、感覚経験、または検証可能な外部事実に結び付けることを指し、システム内部の他の記号だけを参照させるのではなく、実世界との関連を持たせることを意味する。この問題は、認知科学者のスティーブン・ハーナードが1990年の論文「記号接地問題」で形式化したもので、純粋に記号を操作するシステムが、単に構文規則に従って無意味なトークンを並べ替えるだけでなく、その記号が何かを意味し得るのかという問いを提起した。
この問いは、大規模言語モデルの台頭とともに新たな重要性を帯びるようになった。これらのモデルはテキストのパターンにのみ基づいて訓練され、記述する世界との直接的な感覚的接触を持たないためである。この懸念は、流暢だが潜在的に無意味な出力を生み出すモデルに対する確率的オウム批判と密接に関連している。
工学的問題としてのグラウンディング
実際には、モデルの出力を「グラウンディング」することは、パラメトリックメモリのみに依存するのではなく、検証可能な外部ソースに回答を制約するための業界用語となっている。最も一般的な方法は検索拡張生成であり、取得した文書を引用または引用符で囲むことで幻覚を軽減する。検索拡張型アシスタントやエンタープライズチャットボットは、出力が特定の取得パッセージに遡及可能な場合に「グラウンディングされた」回答を生成すると説明されることが多く、これはモデルの訓練データのみから引き出される制約のない生成とは対照的である。
身体性とモダリティを通じたグラウンディング
別の研究伝統では、真のグラウンディングには物理世界との感覚運動的相互作用が必要であると主張し、身体化AIやロボティクスの研究を動機付けている。そこでは、システムの表現は、テキストを読むことではなく、環境に作用し知覚することによって形成される。マルチモーダルおよび視覚言語モデルは、言語を画像、音声、またはビデオに結び付けることでこの問題に部分的に対処し、表現に少なくとも知覚的なアンカーを与える。また、ワールドモデルに関する関連研究は、システムに物理的な因果関係の内部予測シミュレーションを与えようと試みている。
進行中の議論
現在の言語技術が、テキストとマルチモーダルデータのみを通じて真のグラウンディングを達成できるのか、それとも必然的に洗練されたパターン補完の形態に留まるのかは、未解決の問題である。一部の研究者は、グラウンディングは程度の問題であり、検索、ツール使用、マルチモーダル知覚がそれぞれ部分的なグラウンディングを追加し、問題を完全に解決するわけではないと主張する。一方、他の研究者は、哲学的な意味でのグラウンディングには、現在のシステムが持たない身体化された経験が必要であると主張する。この議論は確率的オウム批判によって提起された問いに近いが、それとは区別される。なぜなら、システムは原理的に取得された事実に十分にグラウンディングされていても、それらについてより深い概念的理解を欠いている可能性があるからである。