人工知能において、知識レベルとは、エージェントの行動を、その知識と目標のみに基づいて、その知識を実装する基盤となるメカニズムに言及することなく記述するための抽象化レベルである。これは、1982年にアレン・ニューウェルが論文「The Knowledge Level」（Artificial Intelligence、18(1):87-127に掲載）で提唱したものである。このレベルでは、エージェントは何を知っているか、何を達成しようとしているかによって特徴づけられ、その行動は合理性の原理に従って選択される。すなわち、エージェントは、自分の知識に基づいて目標を最もよく満たすと信じる行動を選択する。
知識レベルは、エージェントの信念や欲求の内容を、それらの信念がどのように保存され、処理されるかの詳細から分離する論理的な抽象化である。これは、エージェントの行動を合理化する方法、つまり、エージェントが使用する特定のアルゴリズムやデータ構造ではなく、その認識状態と目的に基づいて、エージェントが何を行うかを説明し予測する方法を提供する。この抽象化は、知的システムの設計、分析、比較に有用であり、高い一般性のレベルで行動について推論することを可能にする。
シンボルレベルとの関係
知識レベルの下にはシンボルレベルがあり、これはシステム指向であり、エージェントが操作に利用できるメカニズムを含む。知識レベルが世界指向であり、エージェントが動作する環境に関するものであるのに対し、シンボルレベルは、エージェントの行動を機械化するアルゴリズム、データ構造、その他の実装詳細を含む。知識レベルは行動を合理化し、シンボルレベルはそれを機械化する。
例えば、コンピュータプログラムでは、知識レベルは、特定の行動を実行するために使用するデータ構造に含まれる情報、例えば世界に関する事実や意思決定のルールなどで構成される。シンボルレベルは、プログラムのアルゴリズム、データ構造自体、およびそれらが実行される物理的または仮想的なハードウェアで構成される。同じ知識レベルの記述は、多くの異なるシンボルレベルの実装によって実現され得る。
AI研究における応用
知識レベルは、機械学習と生成AIのいくつかの分野に影響を与えてきた。知識ベースのエージェントでは、推論エンジンや知識表現スキームとは独立に、エージェントが何を知っているか、その目標が何かを指定するための枠組みを提供する。この抽象化は、内部表現が不透明であるが、知識レベルの行動をモデルの出力と目的によって特徴づけることができるニューラルネットワークや大規模言語モデルにおいて特に重要である。
深層学習では、知識レベルは、数百万の重みや特定のアーキテクチャを詳述することなく、モデルの機能的能力、つまり何を学習し、何ができるかを記述するためによく使用される。例えば、テキストで訓練されたトランスフォーマーモデルは、そのシンボルレベルの実装がマルチヘッドアテンション、位置エンコーディング、層正規化を含むにもかかわらず、言語に関する事実を知り、一貫した応答を生成できるという知識レベルで記述できる。
合理性の原理と目標指向行動
合理性の原理は知識レベルの中心である。これは、エージェントが、その知識に基づいて、目標の満足につながると信じる行動を選択することを述べる。この原理により、知識レベルを予測的に使用できる。つまり、エージェントが何を知り、何を望むかを知っていれば、内部で情報をどのように処理するかを知らなくても、エージェントが何を行うかを推論できる。
このアプローチは、エージェントが観測（知識）に基づいて報酬（目標）を最大化するように訓練される強化学習やカリキュラム学習に適用されてきた。また、OpenAIやAnthropicのモデルを調整するために使用されるRLHF（人間のフィードバックからの強化学習）の基盤でもあり、モデルの行動は人間の好みを符号化する報酬信号によって形成される。
批判と限界
一部の研究者は、知識レベルは実用的な使用にはあまりにも抽象的であると主張している。なぜなら、それはエージェントの知識と目標の完全かつ一貫した仕様を前提としており、それは現実世界のシステムではしばしば利用できないからである。また、学習または適応するシステムでは、知識自体がシンボルレベルのプロセスによって変更されるため、知識レベルとシンボルレベルの区別が曖昧になり得ると指摘する者もいる。それにもかかわらず、知識レベルは認知科学とAIにおける基礎的な概念であり続け、知的行動について議論するための明確な語彙を提供している。
関連項目
- 知識レベルモデリング
- 知識相対性
- 知識ベースのエージェント
参考文献
- Newell, A. (1982). The Knowledge Level. Artificial Intelligence, 18(1):87-127.
- Menzies, T. (1996). Applications of Abduction: Knowledge-Level Modeling. November 1996.