知能爆発（ちのうばくはつ）は、自身の設計を改善できる人工知能（AI）システムが、再帰的自己改善の正のフィードバックループに入るという仮説上のプロセスである。AIの各世代は前の世代よりも賢くなり、急速な進歩が加速し続け、最終的には人間の認知能力をはるかに超える超知能が出現する。この概念は、1965年に数学者I・J・グッドによって初めて定式化され、技術的特異点（技術の成長が制御不能で変革的になるというより広範な仮説上の出来事）の中心的な構成要素である。知能爆発は、Artificial intelligence研究の文脈でしばしば議論され、人類の未来やGenerative AIシステムの開発に影響を与える。
知能爆発の考えは、技術者、哲学者、学者によって議論されてきた。支持者は、AIが一定の能力の閾値に達すると、それ自体のさらに高度なバージョンを設計でき、知能の指数関数的増加につながると主張する。一方、批判者は、そのような成長は収穫逓減に直面する可能性が高く、双曲線的な軌道ではなくS字曲線に従うと論じる。知能爆発の妥当性とタイミングは未解決の疑問であり、予測は今後数十年から数世紀、あるいは決して起こらない可能性まで様々である。
歴史的基盤
知能爆発の知的ルーツは20世紀半ばに遡る。1950年、コンピュータ科学の先駆者であるアラン・チューリングは、論文「計算機械と知性」で、機械が理論的に人間と同等の知的挙動を示す可能性があると提唱した。チューリングは知能爆発を明示的に議論しなかったが、彼の研究は機械知能を考察する基盤を築いた。ハンガリー系アメリカ人の数学者ジョン・フォン・ノイマンは、1958年にスタニスワフ・ウラムが報告したように、1940年代または1950年代に技術的「特異点」についての最初の既知の議論を行ったとされている。フォン・ノイマンは、加速する技術進歩が、人間の活動が従来通り続けられない点に近づくと推測した。
1965年、イギリスの数学者で暗号解読者のI・J・グッドは、思索的なエッセイで知能爆発モデルを明確に述べた。彼は、人間の知的活動すべてを凌駕できる「超知能機械」が、より優れた機械を設計できるようになり、「知能爆発」を引き起こして人間の知能をはるかに置き去りにすると仮定した。この考えは後にSF作家のヴァーナー・ヴィンジによって普及され、1983年の論説と1993年のエッセイで、超人的知能の創造がブラックホールの特異点に似た移行を引き起こし、人類の時代を終わらせると予測した。発明家で未来学者のレイ・カーツワイルは、2005年の著書『シンギュラリティは近い』でこの概念をさらに普及させ、特異点が2045年までに起こると予測した。
再帰的自己改善のメカニズム
知能爆発の核心的なメカニズムは再帰的自己改善であり、しばしば「シードAI」シナリオと呼ばれる。シードAIとは、自身のソフトウェアとハードウェアを自律的に改善でき、より能力の高い自身のバージョンを設計できる人工知能である。このプロセスはフィードバックループを生み出す。改善された各AIは次世代の設計に優れ、進歩がますます急速になる。その結果、超知能（最も賢い人間の心をはるかに凌駕する知性を持つエージェント）が出現し、人間の理解を超えた問題解決や技術発明が可能になる。
このメカニズムは、知能が「アップグレード可能な」特性であり、推論、学習、問題解決の改善をAI自身のアーキテクチャに体系的に適用できるという仮定に依存している。現代のMachine learningやDeep learningの文脈では、これはNeural networkアーキテクチャの最適化、Large language modelの訓練技術の改善、新しいアルゴリズムの開発を含む可能性がある。しかし、そのような自己改善の実現可能性は議論されている。一部の研究者は、AIシステムはすべての技術と同様に、成熟するにつれて収穫逓減に直面し、指数関数的爆発ではなくS字曲線の進歩に従うと主張する。この見解はスチュアート・J・ラッセルとピーター・ノーヴィグによって支持されており、歴史的な技術改善は初期の加速期間の後にしばしば横ばいになると指摘している。
超知能とその形態
超知能（ハイパーインテリジェンスとも呼ばれる）は、才能の有無にかかわらず、あらゆる人間をはるかに凌駕する知能を持つ仮説上のエージェントである。この概念は、一般的な推論だけでなく、科学的創造性や社会的知能などの専門的な能力も包含する。I・J・グッド、ヴァーナー・ヴィンジ、レイ・カーツワイルはすべて、超知能を技術的創造の観点から定義し、現在の人間が特異点後の世界の生活を予測することは困難または不可能であると論じている。
一つの変種は「速度超知能」であり、これは人間の心と同様に動作するが、はるかに高速なAIを指す。例えば、AIが人間の100万倍の速さで情報を処理できる場合、主観的な1年は物理的な30秒で経過する。この速度の利点だけでも、迅速な問題解決と革新を可能にし、知能爆発に寄与する可能性がある。他のシナリオには、生物学的修正や脳-コンピュータインターフェースによる人間の強化が含まれ、ロビン・ハンソンの2016年の著書『エイジ・オブ・エム』で探求されており、人間の脳がスキャンされデジタル化され、超知能AIに先行または同時に発生する「アップロード」を作り出す未来を描写している。
議論と批判
著名な技術者や学者は、知能爆発の妥当性に異議を唱えている。批判者には、ポール・アレン、ジェフ・ホーキンス、ジョン・ホランド、ジャロン・ラニアー、スティーブン・ピンカー、セオドア・モディス、ゴードン・ムーア、ロジャー・ペンローズが含まれる。一般的な議論の一つは、AI開発は加速的な収穫ではなく、逓減的な収穫に直面するというものである。例えば、Deep learningの改善は、Transformer (architecture)モデルのスケーリングに見られるように、指数関数的に多くのデータと計算リソースを必要とする可能性がある。これにより自己改善の速度が制限され、暴走効果を防ぐ可能性がある。
もう一つの批判は、知能爆発が現在のAIシステムに欠けている自律性と自己認識のレベルを仮定していることである。Large language modelなどの現代のAIは、狭いパラメータ内で動作し、人間の監視を必要とする。狭いAIから再帰的自己改善が可能な一般的なAIへの移行は、依然として大きなハードルである。さらに、特異点の概念は科学的というより推測的であり、経験的証拠が欠けていると主張する者もいる。これらの批判にもかかわらず、知能爆発は影響力のある思考実験であり続け、AI安全性やArtificial intelligenceの長期的未来に関する議論を形成している。
予測とタイムライン
知能爆発がいつ起こるかの予測は大きく異なる。ヴァーナー・ヴィンジは1993年のエッセイで、2005年から2030年の間に起こる可能性があると推定したが、不確実性を表明した。レイ・カーツワイルは2005年に特異点を2045年と予測し、その後の著作でもこの日付を維持している。他の予測者は21世紀後半などより遅い日付を示唆し、決して起こらないと信じる者もいる。予測の幅広さは、一般的なAIの開発と再帰的自己改善の実現可能性を取り巻く不確実性を反映している。2020年代初頭の時点で、Machine learningとDeep learningの進歩は自律的自己改善が可能なAIをまだ生み出していないが、Generative AIの急速な進歩は知能爆発の可能性への関心を再燃させている。