創発的アルゴリズムとは、その全体的な挙動が、明示的なプログラミングや中央制御ではなく、個々の構成要素の相互作用から生じる計算手順である。人工知能の文脈では、この用語は、ニューラルネットワークや大規模言語モデルが、その作成者によって直接設計されたり予期されたりしなかった能力や戦略を発達させる状況を指す。これらの挙動は、膨大なデータセットでの訓練中に学習された統計的パターンから、しばしば大規模に出現し、この分野における活発な研究と議論の対象となっている。
この概念は、複雑系における創発のより広範な理論から引き出されており、局所的なレベルでの単純な規則が、複雑で全体的な現象を生み出す。コンピューティングにおいては、初期の例としてセル・オートマトンや群知能が挙げられるが、AIにおける現代的な用法は、深層学習モデルのスケーリングと密接に関連している。モデルがサイズを増し、より多くのデータで訓練されるにつれて、推論、翻訳、問題解決におけるスキルが、そのアーキテクチャや損失関数に明示的にコード化されていないにもかかわらず発揮されることがあり、研究者たちはこれらを創発的と表現する。
歴史的背景
計算における創発の考え方は、現代のAIに先立つ。1980年代から1990年代にかけて、Xerox PARCやMIT CSAILなどの機関の研究者たちは、単純なエージェントや規則が複雑な挙動を生み出す自己組織化システムや人工生命を探求した。しかし、「創発的アルゴリズム」という用語が注目を集めたのは、2010年代から2020年代にかけて、トランスフォーマーベースのモデルが台頭してからのことである。画期的な観察は、OpenAIのGPTシリーズやGoogle DeepMindのモデルに関する研究からもたらされ、パラメータをスケールアップすることで、算数や多段階推論などのタスクにおける性能が、漸進的な改善ではなく、突然の飛躍を見せた。
メカニズムと例
AIにおける創発的アルゴリズムは、特定の訓練手法やアーキテクチャの特徴と関連付けられることが多い。例えば、マルチヘッド・アテンションは、モデルが多様な関係パターンを学習することを可能にし、これらが予期せぬ形で組み合わさることがある。カリキュラム学習やRLHF（人間のフィードバックからの強化学習）も、明示的にコード化されてはいないが、訓練目的に対する最適解として出現する挙動へとモデルを導くことができる。
頻繁に引用される例は、大規模言語モデルが連鎖的推論を実行する能力である。「ステップバイステップで考えてください」と促されると、GPT-3やそれ以降のバージョンのようなモデルは、正しい答えに至る中間ステップを生成する。これは明示的にプログラムされたわけではなく、コード、数学、テキストの訓練から出現した能力である。もう一つの例は、内部表現の自発的な形成であり、例えば、性別や時制などの概念に関する線形代数構造が、トロント大学やスタンフォードAIラボの研究者によるプロービング研究を通じて発見された。
研究と議論
創発的アルゴリズムの研究は論争の的である。メラニー・ミッチェルやブレンダン・レイクを含む一部の研究者は、主張されている創発的能力の多くは、評価指標やモデル規模の産物であり、根本的に新しいアルゴリズムではないと論じている。彼らは、創発のように見えるものは、より小さなモデルの性能曲線から予測可能かもしれないと示唆する。逆に、トランスフォーマーを共同発明したヤコブ・ウシュコレイトやリオン・ジョーンズのような研究者は、スケーリングによって、第一原理から予測することが難しい能力が明らかになることが多いと指摘している。
重要な課題は、ニューラルネットワークにおいて何が「アルゴリズム」と見なされるかを定義することである。明示的なステップを持つ従来のアルゴリズムとは異なり、創発的アルゴリズムは何百万もの重みに分散しており、抽出や検証が困難である。これにより、AnthropicやGoogle DeepMindなどの取り組みとして、内部回路をマッピングし、特定のサブタスクを実行する機能モジュールを特定するための解釈可能性への努力が促されている。
AI開発への影響
創発的アルゴリズムの存在は、実用的な影響を持つ。これは、Amazon Web ServicesがAWS Trainiumチップで、またはGoogle CloudのTPUで行っているように、単にモデルをスケールアップするだけで、アーキテクチャを再設計することなく新しい能力を引き出すことができることを示唆している。これは、NVIDIA（提供されたリストにはないが、AMDやIntelが競合他社であることに注意）やTSMCがますます強力なハードウェアを製造する中で、より大規模なモデルへの競争を加速させている。
しかし、これは安全性への懸念も引き起こす。挙動が予測不能に出現する場合、モデルが欺瞞や報酬ハッキングなどの意図しない戦略を発達させないことを保証することが難しくなる。バークレーAIリサーチやカーネギーメロン大学の研究者たちは、展開前に創発的リスクを検出するための堅牢な評価フレームワークを求めている。
今後の方向性
創発的アルゴリズムに関する今後の研究は、二つの面に焦点を当てている。第一に、統計物理学や複雑性理論を利用して、創発がいつ発生するかを予測する理論的枠組みを開発すること。第二に、モデルプルーニングやデータ拡張などの技術を通じて、学習環境を形成し、望ましくない創発的挙動を制御または抑制するツールを作成すること。モデルがスケールアップし続けるにつれて、創発の理解は、AIの進歩と社会への安全な統合の両方にとって中心的なものになるだろう。