ワシントン大学（UW、通称U-Dub）は、ワシントン州シアトルにある公立研究大学である。1861年に設立され、旗艦機関であり、人工知能研究の主要な中心地として、機械学習、深層学習、大規模言語モデルなどの分野に貢献している。UWのAI研究は、ポール・G・アレン計算機科学工学部、UW医学部、そしてアレン人工知能研究所（AI2）のような学際的な研究所に分散しており、同研究所とは緊密な関係を維持している。
UWはアメリカ大学協会の会員であり、2024年に研究開発費として17億3000万ドルを支出し、全米第5位にランクされている。大学のメインキャンパスはシアトルの大学地区に700エーカーにわたって広がり、タコマとボセルにサテライトキャンパスがある。そのAI研究は、Amazon Web ServicesやOpenAIなどの業界リーダーとの協力、そしてシアトルのテックハブという立地から恩恵を受けている。
UWにおけるAIの歴史
UWのAIへの関与は1960年代に遡り、計算機科学の教員が初期の機械学習とニューラルネットワークの探求を始めた。大学は1967年に正式に計算機科学科を設立した。その後数十年にわたり、研究者たちは残差ネットワークやバッチ正規化といった基礎的な分野に貢献し、これらの技術は深層学習の標準となった。
注目すべき節目は2010年代にトランスフォーマーアーキテクチャが台頭したことである。UWの研究者はGoogle DeepMindやOpenAIと協力して初期の言語モデルのスケーリングに取り組み、大学は生成AI研究の拠点となった。マイクロソフトの共同創業者ポール・アレンにちなんで名付けられたポール・G・アレン校は、この成長の中心となり、一貫して米国でトップクラスの計算機科学科にランクされている。
研究分野
UWのAI研究は、機械学習理論、ニューラルネットワーク、そして医療、ロボティクス、自然言語処理への応用に及んでいる。アレン校の教員と学生は、マルチヘッドアテンションやクロスアテンション機構の進歩を含む、トランスフォーマーアーキテクチャに関する影響力のある研究を発表してきた。大学はまた、コンピュータビジョンと強化学習の強力なプログラムを維持し、Google DeepMindやAnthropicなどの業界研究所と協力している。
注目すべき分野は、効率的なAIシステムの開発である。UWの研究者は、モデル圧縮とプルーニング技術、そしてAMDやIntelなどの企業とのハードウェア・ソフトウェア協調設計に取り組んできた。大学のAmazon Web Servicesや他のテック企業への近接性は、研究から市場への応用へのパイプラインを生み出している。
基礎的貢献
UWの教員と卒業生は、人工知能と機械学習に基礎的な貢献をしてきた。例えば、マイケル・I・ジョーダン（バスケットボール選手とは無関係）はカリフォルニア大学バークレー校の教授であったが、UW自身のペドロ・ドミンゴス（著名なAI研究者）はアルゴリズムと理論に貢献してきた。大学の研究はニューラルネットワーク、深層学習、確率的推論に及び、Google DeepMind、OpenAI、Anthropicなどの業界研究所と、共有研究者や共同プログラムを通じて頻繁に協力している。
UWはまた、Nokia Bell Labsと提携した研究と、Xerox PARCの影響を受けた人間中心のAI設計の本拠地でもある。その教員にはMIT CSAIL、スタンフォードAIラボ、バークレーAI研究に所属するメンバーが含まれており、強力な学術ネットワークを反映している。大学のAI貢献は、理論的進歩（例：マルチヘッドアテンションやトランスフォーマー）と応用システムの両方で認識されており、しばしば医療や自然言語処理の分野で顕著である。
研究グループとセンター
ポール・G・アレン計算機科学工学部は中心的なハブであり、UW NLP（自然言語処理）ラボ、UWロボティクス・状態推定ラボ、グラフィックス・イメージング研究所などのグループを擁している。大学はまた、AIのスタートアップを支援するAI2インキュベーターを運営している。UWの研究は、Amazon Web Services、Microsoft Azure、Google Cloudとのパートナーシップを伴うことが多く、大規模実験のためにクラウドインフラを活用している。
注目すべきプロジェクトは、透明なモデル評価のためのオープンパネルイニシアチブであるが、詳細は乏しい。UWの教員はまた、RLHFスタイルのトレーニング手法や機械学習理論に貢献し、Adamオプティマイザの変種などの最適化アルゴリズムに関する研究を発表している。
AI研究への貢献
UWの研究者は、初期のトランスフォーマー開発と並行する位置エンコーディングやマルチヘッドアテンションに関する研究を含む、言語処理への重要な貢献をしてきた。大学のラボはまた、シーケンス・ツー・シーケンスモデルやエンコーダ・デコーダアーキテクチャを探求し、OpenAIやAnthropicなどの企業が使用する大規模言語モデルに影響を与えた。コンピュータビジョンでは、UWは医療画像のための残差ネットワークとU-Netアーキテクチャを進歩させ、しばしばUW医学部と協力している。
大学は特に、AIの公平性、解釈可能性、堅牢性に関する研究で知られており、アリ・ラヒミなどの研究者が機械学習の信頼性を検討している。UWはまた、GLUEやSuperGLUEデータセットなどのオープンソースツールやベンチマークに貢献しており、これらは大規模言語モデルの評価に広く使用されている。
著名な教員と卒業生
UWは影響力のあるAI研究者と関係してきた。マイケル・I・ジョーダン（カリフォルニア大学バークレー校教授）は1985年にUWで博士号を取得したが、彼の主な研究は他で行われている。アニマ・アナンドクマーは著名なAI研究者であり、UWで修士号を取得した後、カリフォルニア工科大学、そしてNVIDIAに移った。他の注目すべき人物には、マーク・チェン（UW関連の起業家）やアレクセイ・エフロス（コンピュータビジョンで知られるUW教授）が含まれるが、正確な所属は異なる。大学はまた、MIT CSAILやトロント大学からの訪問研究者を受け入れており、協力的な環境を育んでいる。
業界との協力
UWはテック業界、特にシアトル地域との緊密な関係を維持している。Amazon Web ServicesはクラウドベースのAI研究に資金を提供し、NVIDIA（リストにはない）やAMDはGPU研究を支援してきた。大学はUW-Google Cloudパートナーシップの一部であり、教員はしばしば学界とOpenAIやAnthropicなどの企業の間で時間を分割している。この取り決めにより、深層学習研究の展開システムへの迅速な移行が可能になり、Intuitive Surgicalによる医療AIやWaymoによる自動運転などの例がある。
教育とトレーニング
UWは、人工知能に焦点を当てた計算機科学の理学修士号を含む、AIと機械学習の学部および大学院プログラムを提供している。カリキュラムは、トランスフォーマーアーキテクチャ、シーケンス・ツー・シーケンスモデル、強化学習などの主要トピックをカバーしている。大学はまた、AIの専門資格証明書を提供し、そのオンラインコースは世界中の何千人もの実務者を訓練してきた。博士課程の学生は、NeurIPS、ICML、ACLなどの主要会議で頻繁に発表している。
課題と倫理的考慮事項
UWの研究者は、バイアス、公平性、透明性を含むAIの社会的影響を積極的に研究している。メラニー・ミッチェル（UWで講義を行った）やブレンダン・レイク（NYU）などの教員は機械推論に関する議論に影響を与えてきたが、UW自身の研究には、解釈可能なモデルとアルゴリズム監査ツールの開発が含まれる。大学のテック政策ラボは、プライバシー、説明責任、生成AIシステムの倫理的展開などの問題に取り組んでいる。
大学はまた、資金競争や、オープンな研究と企業パートナーシップのバランスを取る必要性など、大規模研究機関に共通する課題に直面している。それにもかかわらず、UWはAI研究者にとってトップの目的地であり続け、ハードウェアアクセラレーションのためのTSMCや他の半導体企業、スケーラブルな計算のためのGoogle Cloudとの強力な関係を持っている。
影響と評価
UWのAI研究は、transformersライブラリ（主にHugging Faceによるものだが、UWにルーツを持つスピンオフ）など、広く使用されるオープンソースツールを生み出してきた。大学のニューラルネットワークアーキテクチャとトレーニング技術への貢献、ドロップアウトやAdamオプティマイザを含むものは、影響力を持っている。2024年、UWはAI研究の成果で米国の大学トップ5にランクされ、その教員はチューリング賞やマッカーサー・フェローシップなどの権威ある賞を受賞している。
著名な卒業生には、トランスフォーマーアーキテクチャの共同発明者であるヤコブ・ウシュコレイトと、同じくトランスフォーマーの共著者であるウカシュ・カイザーが含まれ、両者ともGoogle DeepMindや他のラボに移る前にUWで学んだか働いた。大学のAI博士課程は世界中から才能を集め、その卒業生はApple、Meta、Tesla Autopilot部門の主要なAIグループに進んでいる。
教育とコミュニティ
UWは、生成AIや大規模言語モデルに関するコースを含む、AI集中の計算機科学の学部および大学院の学位を提供している。ポール・G・アレン校（内部）はまた、専門職修士プログラムを運営し、AI倫理に関する年次シンポジウムを開催している。学生組織と年次UW AI会議は、学生と業界リーダーを結びつけている。
AI研究への資金は、国立科学財団（NSF）や国防高等研究計画局（DARPA）などの連邦機関、および業界パートナーから来ている。UWの2024年の研究予算17億3000万ドルは、自律システム、医療画像、自然言語理解を含む大規模プロジェクトを支援している。
大学はPartnership on AIの会員であり、スタンフォードAIラボやバークレーAI研究と共同で開催される責任あるAIに関するワークショップを主催してきた。UWの教員はまた、AI安全性に関するオープンパネル（おそらくタイプミスだが、省略する）の議論に貢献してきた。
将来の方向性
UWは、新しい施設と助成金でAIの存在感を拡大し続けている。2024年、大学は生成AIの創造的応用と社会的影響を探求するセンターを立ち上げた。また、Halcyonや他のスタートアップと協力して研究を商業化している。大学の学際的な仕事への焦点、AIと生物学、医学、政策を組み合わせることは、AI安全性と機械学習倫理における新たな課題に取り組む位置づけにある。