ユルゲン・シュミットフーバー（1963年1月17日生まれ）は、人工知能、特に人工ニューラルネットワークに関する業績で知られるドイツの計算機科学者である。メディアによって、現代人工知能の主要な先駆者として評されている。彼はスイスのダル・モル人工知能研究所の科学ディレクターであり、サウジアラビアのキング・アブドラ科学技術大学（KAUST）の人工知能イニシアティブのディレクターでもある。
シュミットフーバーは、2010年代に研究および商業アプリケーションにおける様々な自然言語処理タスクの支配的な技術となったニューラルネットワークアーキテクチャの一種である長短期記憶（LSTM）に関する業績で最もよく知られている。彼はまた、動的ニューラルネットワーク、メタ学習、生成的敵対ネットワーク、線形トランスフォーマーの原理を導入しており、これらはすべて現代のAIで広く使用されている。
幼少期と教育
シュミットフーバーはドイツのミュンヘンで生まれた。1987年に学部課程を修了し、1991年に博士号を取得した。いずれもミュンヘン工科大学でのことである。彼の博士指導教官はヴィルフリート・ブラウアーとクラウス・シュルテンであった。
経歴
シュミットフーバーは2004年から2009年までミュンヘン工科大学で教鞭を執った。2009年から2021年まで、スイスのルガーノにあるスイス・イタリア大学で人工知能の教授を務めた。1995年からスイスのAI研究所であるダル・モル人工知能研究所（IDSIA）のディレクターを務めている。2021年からはKAUSTのAIイニシアティブのディレクターも務めている。
2014年、シュミットフーバーは金融、重工業、自動運転車などの分野での人工知能の商業応用に取り組む会社NNAISENSEを設立した。ゼップ・ホフライター、ヤーン・タリン、マーカス・フッターが同社の顧問を務めている。2016年の売上は1100万米ドル未満であったが、シュミットフーバーは研究を収益よりも重視していると述べた。NNAISENSEは2017年1月に最初の資金調達ラウンドを実施した。シュミットフーバーの全体的な目標は、単一のAIを様々な狭いタスクに順番に訓練することで万能AIを創造することであったが、2026年現在、彼はNNAISENSEの焦点が汎用人工知能から資産管理に移行したと述べている。
研究
1980年代、バックプロパゲーションは人工ニューラルネットワークにおける長いクレジット割り当て経路を持つ深層学習にはうまく機能しなかった。この問題を克服するために、シュミットフーバー（1991年）は、自己教師あり学習によって一度に一レベルずつ事前訓練される再帰型ニューラルネットワーク（RNN）の階層を提案した。これは予測符号化を使用して、複数の自己組織化時間スケールで内部表現を学習し、下流の深層学習を容易にする。RNN階層は、高レベルのチャンカーネットワークを低レベルの自動化ネットワークに蒸留することで、単一のRNNに折りたたむことができる。1993年には、チャンカーが深さ1000を超える深層学習タスクを解決した。
1991年、シュミットフーバーは、ゼロサムゲームの形で互いに競合する敵対的ニューラルネットワークを発表した。ここでは、一方のネットワークの利益が他方のネットワークの損失となる。最初のネットワークは、出力パターン上の確率分布をモデル化する生成的モデルである。2番目のネットワークは、これらのパターンに対する環境の反応を予測するために勾配降下法で学習する。これは「人工的好奇心」と呼ばれた。2014年、この原理は生成的敵対ネットワークの作成に使用され、シュミットフーバーはこれを、最初のネットワークの出力が特定の集合にあるかどうかに応じて環境反応が1または0である人工的好奇心の特殊なケースと説明している。
シュミットフーバーは、彼の学生ゼップ・ホフライターの1991年の卒業論文を指導し、それを「機械学習の歴史における最も重要な文書の一つ」と見なした。この論文はニューラル履歴圧縮器を研究し、勾配消失問題を分析して克服した。これにより、再帰型ニューラルネットワークの一種である長短期記憶（LSTM）の作成がもたらされた。LSTMという名前は1995年のテクニカルレポートで導入され、1997年にホフライターとシュミットフーバーが共著で発表した最も引用されたLSTM出版物につながった。標準的なLSTMアーキテクチャは、2000年にフェリックス・ゲルス、シュミットフーバー、フレッド・カミンズによって導入された。時間方向バックプロパゲーションを使用したLSTMは、2005年に彼の学生アレックス・グレイブスと共に発表され、その接続性時間分類（CTC）訓練アルゴリズムは2006年に発表された。CTCはLSTMを用いたエンドツーエンドの音声認識に適用された。
2014年、最先端は20〜30層の「非常に深いニューラルネットワーク」を訓練することであった。層を積み重ねすぎると訓練精度が急激に低下し、「劣化」問題として知られる現象が生じた。2015年5月、ルペシュ・クマール・スリヴァスタヴァ、クラウス・グレフ、シュミットフーバーはLSTMの原理を使用してハイウェイネットワークを作成した。これは数百層を持つフィードフォワードニューラルネットワークであり、以前のネットワークよりもはるかに深い。2015年12月には、残差ニューラルネットワーク（ResNet）が発表され、これはハイウェイネットワークの変種である。
1992年、シュミットフーバーは再帰型ニューラルネットワークの代替である高速重みプログラマーを発表した。これは、自己生成された活性化パターンの外積を通じて別のニューラルネットワークの高速重みを制御するために勾配降下法で学習する遅いフィードフォワードニューラルネットワークを持ち、高速重みネットワーク自体が入力に対して動作する。これは後に、非正規化線形トランスフォーマーと等価であることが示された。
2011年、シュミットフーバーのIDSIAのチームは、彼のポスドクであるダン・チレサンと共に、はるかに早くに福島邦彦によって導入されたCNN設計に基づいて、グラフィックス処理ユニット（GPU）を使用して畳み込みニューラルネットワーク（CNN）の劇的な高速化も達成した。チェラピラら（2006年）によるGPU上の初期のCNNは、同等のCPU実装よりも4倍高速であった。IDSIAのダン・チレサンら（2011年）による深いCNNは60倍高速であり、2011年8月にコンピュータビジョンコンテストで初の人間超えの性能を達成した。2011年5月15日から2012年9月10日までの間に、これらのCNNはさらに4つの画像コンテストで勝利し、複数の画像ベンチマークで最先端を改善した。このアプローチはコンピュータビジョン分野の中心となっている。
クレジット論争
シュミットフーバーは、深層学習への貢献に対して、2018年のチューリング賞を深層学習の業績で共有したジェフリー・ヒントン、ヨシュア・ベンジオ、ヤン・ルカンに優先して、彼自身や他の研究者が十分な認識を否定されていると論争的に主張している。彼は、ヒントン、ベンジオ、ルカンが「互いを頻繁に引用する」が「この分野の先駆者を評価しない」と主張する「痛烈な」2015年の記事を書いた。ニューヨーク・タイムズへの声明で、ヤン・ルカンは「ユルゲンは認識に病的に執着しており、多くのことについて彼に値しないクレジットを主張し続けている」と書いた。
遺産と影響
シュミットフーバーのLSTMに関する業績は、機械学習と人工知能に深遠な影響を与えてきた。LSTMネットワークは、音声認識や機械翻訳から手書き認識や時系列予測までのアプリケーションで使用されてきた。メタ学習と敵対的訓練への彼の貢献は、大規模言語モデルや他の高度なアーキテクチャで使用されるものを含む現代のAIシステムの発展にも影響を与えてきた。
クレジットをめぐる論争にもかかわらず、シュミットフーバーはAI研究において非常に影響力のある人物であり続けている。歴史的精度と適切な帰属への彼のこだわりは、この分野における基礎的業績の認識に関する重要な議論を引き起こしてきた。現在の時代において、彼のアイデアはAI研究と開発の方向性を形成し続けている。