ウィリアム・"ビル"・ダリーは、アメリカの計算機科学者であり、グラフィックス処理ユニット（GPU）とアクセラレーテッドコンピューティングの大手企業であるNVIDIAのチーフサイエンティストである。彼は、並列コンピューティングへの先駆的な貢献、特に初期の超並列スーパーコンピュータの設計や、高性能相互接続ネットワークの主要技術の開発で広く知られている。彼の研究は、現代のコンピューティング、特に人工知能や機械学習の分野に深遠な影響を与えており、そこではGPUが大規模モデルのトレーニングに不可欠である。
ダリーの研究は、学術理論と産業実践を橋渡しし、世界最速のスーパーコンピュータの多くと、それらを動かすプロセッサのアーキテクチャに影響を与えてきた。NVIDIAのチーフサイエンティストとして、彼は科学シミュレーションから深層学習、生成AIまで、幅広いアプリケーション向けのハードウェアとソフトウェアの開発における同社の戦略を導いてきた。
初期の人生と教育
ビル・ダリーは米国で生まれた。彼はバージニア工科大学で電気工学の学士号を取得した。その後、スタンフォード大学で大学院に進学し、計算機科学の修士号と博士号を取得した。彼の博士研究はVLSIプロセッサアーキテクチャの設計に焦点を当てており、これが後の並列システムへの関心の基礎となった。
博士号取得後、ダリーは有名な産業研究施設であるベル研究所で働き、初期のマイクロプロセッサ設計の開発に貢献した。この経験は、高性能コンピューティングシステムを構築する際の実際的な課題について貴重な洞察を与えた。
学術キャリアと並列コンピューティング研究
ダリーはマサチューセッツ工科大学（MIT）の教授として学術キャリアを開始し、MITコンピュータ科学・人工知能研究所のメンバーであった。MITでは、メッセージパッシングと細粒度並列性への新しいアプローチを探求する実験的並列コンピュータであるJ-Machineの開発を主導した。このプロジェクトは、超並列アーキテクチャの可能性を示す上で影響力があった。
1997年、ダリーはスタンフォード大学に移り、電気工学および計算機科学の教授となり、後に計算機科学科の学科長を務めた。スタンフォードでは、スタンフォードAIラボの計算機アーキテクチャ関連の取り組みを指図し、スタンフォード並列VLSIアーキテクチャグループを率いた。彼の研究グループは、メディア処理とデータ並列コンピューティングを探求するプロジェクトであるImagineストリームプロセッサを開発し、相互接続ネットワークの設計に重要な貢献をした。これには、「ワームホールルーティング」技術と「仮想チャネル」フロー制御メカニズムの開発が含まれる。これらの革新は、高性能コンピューティングクラスタやスーパーコンピュータの標準となった。
ダリーの教科書『Principles and Practices of Interconnection Networks』（ブライアン・トウルズとの共著）は、この分野の標準的な参考文献である。彼の研究は、ACMモーリス・ウィルクス賞やIEEEシーモア・クレイ計算機工学賞など、数多くの賞で認められている。
NVIDIAでのキャリア
ダリーは2009年にチーフサイエンティストとしてNVIDIAに入社し、スタンフォードでの非常勤教授職も維持した。NVIDIAでは、グラフィックスに焦点を当てたプロセッサから汎用並列コンピューティングエンジンへと進化した同社のGPUアーキテクチャの形成に尽力した。彼のリーダーシップは、GPUでの汎用コンピューティングのためのNVIDIAのプログラミングモデルであるCUDAの開発や、科学およびAIワークロードの性能を劇的に向上させた successive GPU世代の設計において重要であった。
ダリーの技術的指導の下、NVIDIA GPUはニューラルネットワークのトレーニングと展開のための支配的なプラットフォームとなった。数千のコアを持つGPUの大規模並列性は、深層学習の基盤となる行列演算に適している。これにより、NVIDIAは大規模言語モデルやその他のAIシステムに取り組む企業や研究ラボ、特にOpenAI、Google DeepMindなどにとって重要なサプライヤーとなった。ダリーはまた、エネルギー効率の高いコンピューティングの提唱者でもあり、AIトレーニングと推論の消費電力削減の必要性を強調している。
AIと高性能コンピューティングへの貢献
ダリーの研究は、現在のAIブームの基盤となっている。彼が先駆けた並列コンピューティング技術は、現代のAIを動かすハードウェアに直接適用可能である。効率的なデータ移動と通信に関する彼の研究は、プロセッサとメモリ間のデータ転送速度が性能を制限する「メモリウォール」問題への対処に役立っている。
彼はまた、トランスフォーマーやその他のニューラルネットワークアーキテクチャで使用される行列乗算を加速するために設計されたテンソルコアなど、AI専用ハードウェアの開発にも貢献した。「アクセラレーテッドコンピューティング」に対する彼のビジョンは、気候モデリングから薬物発見までの分野の科学研究に使用されるFrontierやFugakuなどの世界最大のスーパーコンピュータへのGPUの統合につながった。
ダリーは250以上の論文を発表し、100以上の特許を保有している。彼はIEEE、ACM、および米国芸術科学アカデミーのフェローである。彼は、ACMエッカート・モークリー賞や米国工学アカデミーのチャールズ・スターク・ドレイパー賞などを受賞している。
遺産と影響
ビル・ダリーの影響は、直接的な技術的貢献を超えて広がっている。彼は一世代のコンピュータアーキテクトを育成し、その多くは主要なテクノロジー企業や大学で研究活動を主導している。厳密な学術研究と実践的な工学を組み合わせる彼の強調は、コンピュータアーキテクチャ研究の文化形成に貢献した。
AIが進歩し続ける中で、並列コンピューティングとエネルギー効率設計に関するダリーの研究は重要であり続けるだろう。NVIDIAでの彼のリーダーシップは、AIハードウェアの進行中の革命の中心に彼を位置づけ、将来のブレークスルーのための計算基盤が堅固で持続可能であることを保証している。彼のキャリアは、基礎研究と変革的な産業影響との深い結びつきを体現している。