技術的特異点とは、主に高度な人工知能によって推進される技術進歩が、非常に急速かつ自己強化的になり、人類文明の予測不可能で不可逆的な変容をもたらすという、仮説上の未来の時点である。この用語は、数学的な特異点、すなわち通常の規則が崩壊し、その先の予測が不可能になる点との類推に由来する。
概念の起源
数学者であり物理学者であるスタニスワフ・ウラムは、1950年代にジョン・フォン・ノイマンと交わした会話を回想し、フォン・ノイマンが「技術の絶えず加速する進歩」が「人類の歴史における何らかの本質的な特異点に近づいており、その先では、我々が知る人類の諸事は継続できないだろう」と述べたことを記している。この概念は、計算機科学者でありSF作家でもあるヴァーナー・ヴィンジによって大幅に発展させられた。彼の影響力のある1993年のエッセイ「来たるべき技術的特異点」は、超人的知能の創造が、その後は未拡張の人間にとって根本的に未知となる事象の地平線を画すものであり、それが数十年以内に起こり得ると予測した。
カーツワイルと加速帰還の法則
未来学者のレイ・カーツワイルは、特に2005年の著書『シンギュラリティは近い』を通じて、この考えを一般の読者に広めた。カーツワイルは、コンピューティング、バイオテクノロジー、その他の分野にわたる指数関数的傾向が、「加速帰還の法則」として定式化され、人間と機械の知能の融合につながると主張し、特異点が2045年頃に到来すると繰り返し予測している。彼の具体的な予測の実績は、方向性の正確さへの賞賛と、日付の外れや過剰な主張への批判の両方を集めている。
知能爆発
特異点がどのように起こり得るかを説明するために最も頻繁に引き合いに出されるメカニズムは、数学者I・J・グッドが1965年に記述し、後にニック・ボストロムが詳述した「知能爆発」である。すなわち、自身の設計を改善できるAIシステムが、急速に加速するフィードバックループの中で、次々とより高性能なバージョンを生み出し、最終的に人間の理解をはるかに超える超知能に至るというシナリオである。これは、汎用人工知能からその先へと至る速い経路と見なす向きもある。この枠組みは、特異点の概念を現代のAIによる存在リスクの議論と密接に結びつける。なぜなら、突然の制御不能な能力の飛躍は、軌道修正の時間をほとんど残さないからである。
批判と懐疑
批判者たちは、特異点の概念は、実際には収穫逓減を伴うS字曲線をたどる傾向がある指数曲線の疑わしい外挿に依存しており、「知能」は単純に無限に拡大できる単一のスカラー量ではないと主張する。エネルギー供給、チップ製造能力、データ利用可能性などの物理的制約も、主要なボトルネックとして挙げられている。ヤン・ルカンやゲイリー・マーカスなどの研究者は、現在のシステムが実際にどのように機能するかに十分に基づいていない投機的なものとして、近未来の特異点シナリオを退けつつも、AIの進歩が歴史的基準から見て依然として速いことを認めている。
現代における関連性
「特異点」という特定の日付を伴う出来事としての用語は、現在では一般の解説者よりも研究者の間でより慎重に使われているが、AIの進歩が急速で制御困難な自己改善の変曲点に達し得るかという根本的な問いは、AI安全性とアラインメントの研究、さらにはスケーリング則や、推論時計算を追加で使用する推論モデルシステムによる能力向上のペースに関する議論に引き続き影響を与えている。