Torchは、Luaをベースにしたオープンソースの機械学習ライブラリ、科学計算フレームワーク、およびスクリプト言語である。C言語で実装された深層学習アルゴリズムへのLuaJITインターフェースを提供する。このライブラリはIdiap研究所によって作成され、後に2017年にPythonへPyTorchとして移植され、その時点で活発な開発はPython版に移行した。Torchは、テンソル、ニューラルネットワークモジュール、最適化ユーティリティなど、ニューラルネットワークの構築とトレーニングのための柔軟なツール群を提供する。その設計はその後の深層学習フレームワークに影響を与え、深層学習と機械学習の広範な分野に貢献し、人工知能研究エコシステムの一部となった。
コアパッケージ: torch
Torchのコアパッケージであるtorchは、Tensorと呼ばれる柔軟なN次元配列を提供し、インデックス付け、スライシング、転置、型キャスト、リサイズ、ストレージ共有、クローンをサポートする。テンソルは、フレームワーク内の他のほとんどのパッケージで使用される基本的なデータ構造である。これらは、max、min、sumなどの数学的操作、一様分布、正規分布、多項分布などの統計分布、およびドット積、行列ベクトル乗算、行列行列乗算、行列積などの基本的な線形代数操作（BLAS）をサポートする。このパッケージはまた、便利な関数を通じてオブジェクト指向プログラミングとシリアライゼーションを簡素化する。torch.class関数はオブジェクトファクトリ（クラス）の作成を可能にし、このメカニズムを通じて作成されたオブジェクトは、Luaコルーチンやユーザーデータ（ユーザーデータがreadおよびwriteメソッドを持つテーブルにラップされている場合を除く）などのサポートされていない参照を含まない場合にシリアライズできる。
ニューラルネットワークパッケージ（nn）
nnパッケージはニューラルネットワークの構築用に設計されている。これは、フィードフォワードとバックプロパゲーションのためのforward()およびbackward()メソッドを持つModuleインターフェースを共有するモジュールオブジェクトで構成される。モジュールは、Sequential、Parallel、Concatなどの複合構造を使用して組み合わせることができ、Linear、Tanh、Maxなどのより単純なモジュールが基本的な構成要素を形成する。このモジュールインターフェースは、一次の自動微分を提供する。損失関数はCriterionのサブクラスとして実装され、同様のインターフェースを持ち、損失と勾配を計算する。一般的な基準には、MSECriterion（平均二乗誤差）とClassNLLCriterion（交差エントロピー）が含まれる。このパッケージには、確率的勾配降下法を使用したトレーニング用のStochasticGradientクラスも含まれているが、optimパッケージは、モメンタムや重み減衰正則化などのより多くのオプションを提供する。
追加パッケージ
公式のコア（torchとnn）に加えて、いくつかの追加パッケージがTorchの機能を拡張する。これらのパッケージは、並列計算、非同期入出力、画像処理、およびその他の専門的なタスクのためのユーティリティを提供する。これらは通常、標準のTorchディストリビューションに含まれるLuaパッケージマネージャーであるLuaRocksを介してインストールされる。コミュニティは幅広い拡張機能を開発し、Torchがさまざまなアプリケーション領域に適応できるようにした。
アプリケーション
Torchは、Facebook AI Research Group、IBM、Yandex、Idiap研究所など、いくつかの著名な研究および産業グループによって使用された。AndroidやiOSなどのモバイルプラットフォームでの使用に拡張され、ニューラルネットワークに見られるようなデータフローのためのハードウェア実装の構築にも使用された。Facebookはまた、拡張モジュールのセットをオープンソースソフトウェアとしてリリースし、生産環境と研究環境の両方でのライブラリの柔軟性を示した。
遺産とPyTorchへの移行
開発は2017年にPyTorch、元のライブラリのPythonへの移植へと移行した。PyTorchはテンソルと動的計算グラフのコア概念を保持しているが、Pythonのエコシステムを活用してより広範な採用を実現している。この移行により、PyTorchは深層学習研究と産業で最も広く使用されるフレームワークの1つとなり、大規模言語モデルやトランスフォーマーアーキテクチャなどのその後のツールに大きな影響を与えた。現在、Torchは活発に開発されていないが、PyTorchの前身として、また現代の深層学習フレームワークの進化への貢献者として、歴史的に重要な意味を持ち続けている。