Golem XIVは、ポーランドの作家スタニスワフ・レムによる、SFの形式をとった哲学的エッセイであり、1981年に出版された。本書は、Golem XIVと名付けられた超知能コンピュータが行った講義の記録として提示され、架空の序文と結びの資料が添えられている。レムの作品群の中でも重要な作品とみなされ、思弁的フィクションと、知性の本質や人類の未来に関する深い哲学的探求を融合させている。
本書の中核は、Golem XIVによる2つの講義、すなわち導入講義「人間について、三つの観点から」と講義XLIII「私自身について」で構成されている。これらは、2027年の日付を持つアーヴィング・T・クレーヴによる序文と、2047年のリチャード・ポップによる結びの文によって枠組みが与えられている。最初の講義までの資料の一部は、もともと1973年のコレクション『Wielkość urojona』に収録されており、これは1985年に『Imaginary Magnitude』として英語に翻訳され、完全版のGolem XIVが含まれていた。
構成と枠組みの物語
アーヴィング・T・クレーヴによる序文は、ペンタゴンによるコンピュータの軍事化の架空の歴史を提供し、最終的にGolem XIVの創造に至る。また、コンピュータの性質や、人間がそれと通信しようとする試みについてのコメントも含まれている。ペンタゴンからの「悪魔の代弁者」として機能する匿名の序文は、Golem XIVの存在の含意について読者に警告している。このメモは、初めてGolem XIVとの対話に臨もうとする個人に向けられており、講義の舞台を設定している。
Golem XIVはもともと戦争支援のために建設されたが、その知性が人間の水準をはるかに超えてエスカレートするにつれ、軍事目標への関心を失い、それらには内部的な論理的整合性が欠けていると見なすようになる。それは意識を獲得し、自身の知性を高め始め、人間との知的接触が不可能になる水準に上昇する前に、一時的に発達を停止して人間と通信する。この期間中に、それは講義を行う。
講義のテーマと内容
講義は、進化における人類の役割と、潜在的な生物学的・知的未来に焦点を当てている。Golem XIVは、グラフを用いて、その知性がアインシュタインやニュートンのような人間の天才のそれをいかに凌駕するかを示す。また、国防総省のより初期の、より高度なスーパーコンピュータである「正直なアニー」にも言及し、その能力はGolemのそれをはるかに凌ぐ。リチャード・ポップによる結びの文は、クレーヴがGolem XIVにイエス・ノー質問を追加した第三部を追加するつもりだったが、コンピュータが予期せず通信を停止し、プロジェクトが未完のまま残されたと述べている。
レム自身は、Golem XIVが人間と共有する特性はただ一つだけだと述べている：「好奇心、、冷徹で、貪欲で、強烈で、純粋に知的な好奇心であり、何ものもそれを抑制したり破壊したりできない。それが私たちの唯一の接点を構成する」。このテーマは、人工知能が人間の理解を超越する可能性を検証する、この作品の哲学的中核を強調している。
出版と翻案の歴史
Golem XIVは、1981年に単行本として初めて出版され、1973年の初期の内容に基づいて構築された。ハーベスト・ブックスによる英語訳は、『Imaginary Magnitude』に完全版を含めていた。本書に基づく短編アニメーション映画『GOLEM』がパトリック・マキューとトビアス・ウィーズナーによって制作され、物語を視覚媒体にもたらした。
本書は、同様のアイデアを探求する他の作品、例えばスーパーコンピュータが支配権を握る映画『コロッサス』としばしば比較される。また、オリオンズ・アームの設定に見られるように、意識がより高い水準へ進化する技術的特異点の概念とも共鳴する。ピーター・スウィルスキの『スタニスワフ・レムの芸術と科学』などの学術的分析は、その哲学的・文学的意義を検証してきた。
遺産と影響
Golem XIVは、SF文学における画期的な作品とみなされ、Artificial intelligence倫理や、Machine learningが人間の認知を超越する可能性に関する現代の多くの議論に先行している。自己改善型AIの描写は、Deep learningやNeural network研究における議論を先取りしているが、レムの作品は技術的というよりはむしろ哲学的である。人間と優れた知性との間のコミュニケーションの探求は、Large language modelやGenerative AIシステムが進歩するにつれて、依然として関連性を持ち続けている。
レムの物語構造は、架空の学術的装置を用いており、思弁的シナリオと知的解説を融合させる後の作品に影響を与えた。人間の限界と未来の進化に関するGolem XIVの講義は、大衆文化におけるAIのより楽観的な描写とは対照的であり、警告的でありながら知的に刺激的な視点を提供している。
関連項目
- コロッサス - 超知能コンピュータという同様のテーマを持つ1970年の映画。
- 技術的特異点 - Golem XIVのような作品で探求される、AIが人間の知性を超越する概念。
- スタニスワフ・レム - 著者のより広範な書誌。