2025年、アンドレイ・カーパシーはスタンフォード大学でAIエンジニアリングをテーマに1時間の講演を行った。この講演は、深層学習と人工知能における彼の豊富な経験に基づき、大規模言語モデル（LLM）、プロンプト戦略、そして新たに台頭するAIエージェントのパラダイムについて技術的な概要を提供した。中心的なテーマは、複雑なAIシステムを構造化し推論するためのグラフベースのアプローチの重要性であり、この視点はその後のこの分野での議論に影響を与えた。
スロバキア系カナダ人の研究者であるカーパシーは、コンピュータビジョンと自然言語処理への貢献で知られている。彼はOpenAIを共同設立し、テスラでAIディレクターを務め、その後AI教育プラットフォームであるEureka Labsを設立した。彼のスタンフォードでの講演は、彼の教育的な焦点を反映しており、高度な概念を学生や実務家の幅広い聴衆にアクセスしやすくすることを目的としていた。
背景と文脈
カーパシーの講演は、トランスフォーマーベースのモデルが広く採用された後、生成AIが急速に進歩した時期に行われた。彼のこれまでの仕事には、スタンフォード大学のCS 231nコースの指導が含まれており、このコースは大学で最大級のクラスの一つとなり、またニューラルネットワークに関する人気のある教育コンテンツを作成してきた。2025年の講演はこの伝統を引き継ぎ、AIシステムの実践的なエンジニアリングへの構造化された入門を提供した。
この講演はまた、アクセシブルなAI教育に対するカーパシーの公的な提唱を背景に行われた。2024年、彼はAIネイティブの学校を創設するという目標を持ってEureka Labsを立ち上げ、彼の講義シリーズ（「Zero to Hero」チュートリアルを含む）は学習者によって広く利用されてきた。スタンフォードでの講演は、これらの取り組みの凝縮版として機能し、学術的な聴衆を対象としていた。
中核トピック：LLM、プロンプト、エージェント
この講演は、現代のAIエンジニアリングの3つの相互に関連する柱をカバーした。第一に、カーパシーは大規模言語モデルのアーキテクチャとトレーニングを説明し、トランスフォーマーアーキテクチャとマルチヘッドアテンションのような技術の役割を強調した。彼は、これらのモデルがどのようにして膨大なテキストコーパスでトレーニングされ、教師あり学習やRLHFのような方法を用いて出力を人間の期待に合わせるかについて議論した。
第二に、彼はプロンプト、すなわちLLMから望ましい応答を引き出すための入力を設計する実践について扱った。カーパシーは、明確な指示、文脈、反復的な改良の重要性を強調し、効果的なプロンプトにはモデルのトークン化と温度パラメータを理解することがしばしば必要であると述べた。彼はまた、モデルにステップバイステップで推論することを促すチェーン・オブ・ソートプロンプトのような高度な技術にも触れた。
第三に、この講演ではAIエージェント、すなわちLLMを使用して自律的にタスクを実行するシステムを紹介した。カーパシーは、エージェントがLLMをツール、メモリ、計画メカニズムと組み合わせることで構築できる方法を説明した。彼は、エージェントがしばしば複数のコンポーネントの慎重なオーケストレーションを必要とすることを強調し、これらの相互作用を表現し管理する方法としてグラフベースのモデルを提案した。
グラフベースのアプローチ
この講演の特徴的な貢献は、AIエンジニアリングにおけるグラフベースのアプローチに対するカーパシーの提唱であった。彼は、ニューラルネットワークからエージェントパイプラインまで、多くのAIシステムが自然にグラフとして表現できると主張した。グラフでは、ノードがコンポーネントに対応し、エッジがデータフローまたは依存関係に対応する。この視点は、デバッグ、最適化、スケーラビリティを容易にすると彼は示唆した。
例えば、カーパシーは、深層学習フレームワークで自動微分と効率的なトレーニングを可能にするために計算グラフがどのように使用されるかについて議論した。彼はこの考えをより高レベルのシステムに拡張し、エージェントのワークフローが有向非巡回グラフとしてモデル化でき、各ノードが情報検索やツール使用のようなステップを表すと提案した。このアプローチは、モジュール性と明確なインターフェースが鍵となるソフトウェアエンジニアリングの実践と一致すると彼は述べた。
カーパシーはまた、OpenAIとテスラでの自身の経験に言及し、そこではグラフベースの思考が複雑で現実世界のAI展開を管理するのに役立った。彼は聴衆に、自身のシステムを設計する際にそのようなメンタルモデルを採用するよう奨励した。
反響と影響
この講演は、スタンフォードコミュニティとより広いAI研究コミュニティで好評を博した。参加者はその明快さと深さを賞賛し、複雑なトピックを直感的な説明に凝縮するカーパシーの能力が彼の教育スタイルの特徴であると述べた。この講演は録画され、後にオンラインで共有され、そこでかなりの視聴回数を集め、そのリーチをさらに広げた。
講演後、AIエージェント設計のためのグラフベースのアプローチの有用性について、学界と産業界でいくつかの議論が生まれた。一部の研究者は、カーパシーが提示したアイデアに基づいて、エージェントの相互作用を明示的にグラフとしてモデル化するフレームワークの探求を始めた。この講演はまた、Eureka Labsでの彼の進行中の活動を補完し、AIにおける主要な教育者としてのカーパシーの評判を強化した。
遺産と継続的な影響
カーパシーの2025年のスタンフォード講演は、AI教育と研究への貢献のより広い軌跡の一部である。彼の畳み込みニューラルネットワークとリカレントニューラルネットワークに関する初期の研究は、現代の深層学習の形成に貢献した。彼のその後の活動、OpenAIへの復帰や2026年のAnthropicへの異動を含む、は彼をAI開発の最前線に保ってきた。
この講演のグラフベースのアプローチへの強調は、特にエージェントのオーケストレーションの文脈で、その後の論文やチュートリアルで引用されてきた。AIシステムがより複雑になるにつれて、グラフのような構造化された表現の必要性は高まる可能性が高く、カーパシーの洞察はますます関連性を増している。この講演は、AIエンジニアリングの実践的な側面を理解しようとする学生や実務家にとって、依然として貴重なリソースである。