中国語の部屋は、哲学者ジョン・サールが1980年に提唱した思考実験である。これは、適切な入力と出力を実行するコンピュータプログラムが、人間と同じように心、理解、または意識を持つことができるという主張に挑戦するために設計されている。サールの議論は、強人工知能として知られる立場を標的としており、その立場は、適切にプログラムされたコンピュータは単なる道具ではなく、実際に心であると主張する。この思考実験は、認知の本質、計算の限界、そして人工知能の見通しに関する議論における中心的な参照点となっている。
このシナリオでは、英語しか理解しない人物が、中国語の記号を操作するための英語で書かれた大きな規則集とともに部屋に閉じ込められている。中国語の文字が書かれた紙片がドアの下から渡され、その人物は規則に従って新しい中国語の文字の紙片を作り出し、それを外に渡す。外から見ると、部屋は中国語を理解しているように見える。なぜなら、その出力は入力に対する適切な応答だからである。しかし、中の人物は中国語を一切理解しておらず、単に構文規則に従っているだけである。サールは、これがプログラムを実行することが、どれほど洗練されていても、真の意味論的理解や意図性を生み出すことはできないことを示すと主張する。
この思考実験は、1980年に学術誌『Behavioral and Brain Sciences』に初めて掲載され、数十人の学者からのコメントとサールの返答が併せて掲載された。それ以来、心の哲学、認知科学、コンピュータ科学において広く議論されてきた。この議論は、1950年にアラン・チューリングが提案したチューリングテストとしばしば対比され、チューリングテストは会話能力を知能の十分な基準とみなす。サールの例は、そのようなテストに合格することが理解には十分でないことを示すために設計されている。
システム応答とその他の反論
中国語の部屋に対する最も一般的な応答の一つはシステム応答であり、これは部屋の中の人物は中国語を理解しないが、システム全体（人物と規則書と部屋）は理解すると主張する。サールの反論は、人物が規則を暗記し、すべての操作を内部的に行うことを想像することであり、そうすればシステム全体が人物の頭の中に含まれる。それでも、サールは、人物は中国語を理解しておらず、単に規則に従っているだけだと主張する。
もう一つの反論はロボット応答であり、部屋がセンサーとエフェクタを持つロボットの体に接続されていれば、システムは世界との因果的接続を獲得し、真の意味論を得ることができると示唆する。サールは、より多くの構文操作を追加しても根本的な問題は変わらないと応答する。記号は依然として内在的な意味を欠いているからである。三つ目の反論である脳シミュレータ応答は、規則が中国語話者の脳の正確な神経活動をシミュレートすることを想像する。サールは、脳プロセスの完全なシミュレーションでさえ理解を生み出さないと主張する。ちょうど天気システムのシミュレーションが雨を生み出さないのと同じである。
現代のAIへの関連性
中国語の部屋は、大規模言語モデルや生成AIシステムの台頭とともに新たな関連性を得ている。これらのシステムは、OpenAI、Anthropic、Google DeepMindなどによって開発され、Transformer (architecture)アーキテクチャに基づき、Multi-Head AttentionやPositional Encodingのメカニズムを使用してテキストを処理し、機械学習や深層学習の技術を通じて膨大なコーパスで訓練されている。これらは、幅広いプロンプトに対して流暢で文脈に適した応答を生成でき、しばしばカジュアルなバージョンのチューリングテストに合格する。しかし、それらが何らかの形の理解を持っているかどうかは依然として論争の的である。
サールに従う強AIの批評家は、これらのシステムは本質的に精巧な中国語の部屋であり、データから学習した統計的パターンに従ってトークンを操作するが、意味の真の把握を欠いていると主張する。MIT CSAILやStanford AI Labの研究者など、より機能主義的な見解の支持者は、システムが新しい状況について一般化し推論する能力は、人間的でなくても何らかの理解を示していると主張するかもしれない。この議論は未解決のままであり、決定的に問題を解決できる経験的テストは存在しない。
哲学的含意
中国語の部屋は、心と計算の本質に関する根本的な疑問を提起する。それは、心的状態が計算状態であるとする計算主義的心の理論に挑戦する。サールは、構文（記号の形式的操作）と意味論（記号に付随する意味）を区別する。彼は、コンピュータはその性質上、構文のみを操作し、意味論は構文だけから導出できないと主張する。この立場は生物学的自然主義として知られており、心的現象は脳の特定の生物学的特性によって引き起こされ、抽象的な計算プロセスによってではないとする。
この思考実験は、意識のハードプロブレムにも関連しており、なぜ物理的プロセスが主観的経験を生み出すのかを問う。機械が人間の行動を完全に模倣できたとしても、それがクオリア（経験の主観的な感覚）を持つかどうかは不明である。中国語の部屋は、行動的等価性が心的等価性には十分でないことを示唆しており、この見解は、現在のAIシステムの限界を研究するMelanie MitchellやJoshua Tenenbaumなどの哲学者に影響を与えている。
歴史的文脈と遺産
サールの議論は、1970年代後半から1980年代初頭にかけてのAIに対する楽観主義の時期に登場し、Xerox PARCやNokia Bell Labsなどの機関の研究者がエキスパートシステムや記号推論プログラムを開発していた。中国語の部屋は、Bernard Widrowなどの先駆者や、コンピュータが真の知能を達成できると信じていた他の人々による強AIの主張への直接的な応答であった。サールの論文は、Aaron Courville、Samy Bengio、その他の認知科学者からの応答を含む大きな文献を引き起こしたが、これらの応答の多くは哲学的問題よりも経験的問題に焦点を当てている。
この思考実験は、機械倫理やAI安全性の議論でも使用されている。システムがその行動の結果を真に理解していない場合、それは道徳的責任を負うことができるだろうか？この疑問は、自動運転車（例：WaymoやTesla）や医療診断などの高リスク領域でのAIの展開に関連している。中国語の部屋は、行動的能力が道徳的または認識論的能力を意味しないという警告の物語として機能する。
現代の議論と将来の方向性
近年、一部の研究者は、大規模言語モデルが単なるパターンマッチングを超えた創発的能力を示す可能性があると提案している。例えば、Chain-of-thought推論や新しい問題を解決する能力などである。しかし、これらの主張は論争の的となっている。例えば、Aleksander Madryらは、これらのモデルが脆く、タスクの単純な変形で失敗することを示しており、堅牢な理解の欠如を示唆している。中国語の部屋は、そのような発見を解釈するための有用なレンズであり続ける。モデルは記号を操作するのが非常に得意かもしれないが、それは彼らが話していることを理解していることを意味しない。
David Haのような一部の哲学者は、中国語の部屋は誤解を招く類推であり、複雑なシステムには当てはまらないかもしれない構文と意味論の明確な分離を仮定していると主張する。Brendan Lakeのような他の人々は、因果推論や直感的物理学など、より人間に近い学習メカニズムを備えたAIシステムを構築できる可能性があり、それがギャップを埋めるかもしれないと提案している。2020年代半ばの時点で、コンセンサスは得られておらず、中国語の部屋は、計算の究極の限界と機械意識の可能性について考える誰にとっても試金石であり続けている。