PyTorch एक ओपन-सोर्स डीप लर्निंग फ्रेमवर्क है जो न्यूरल नेटवर्क बनाने, प्रशिक्षित करने और तैनात करने के लिए उपकरण प्रदान करता है, जो अपने Python-प्रथम डिज़ाइन और गतिशील, define-by-run कम्प्यूटेशन ग्राफ के लिए जाना जाता है। मूल रूप से Facebook AI Research द्वारा विकसित, बाद में Meta AI, इसे पहली बार सितंबर 2016 में जारी किया गया था और 2020 के दशक की शुरुआत से मध्य तक, यह AI अनुसंधान में उपयोग किया जाने वाला प्रमुख फ्रेमवर्क बन गया।
इतिहास
PyTorch Torch से विकसित हुआ, जो Lua प्रोग्रामिंग भाषा पर निर्मित एक पुराना वैज्ञानिक कंप्यूटिंग फ्रेमवर्क था, और इसे Python इंटरफ़ेस के साथ फिर से लिखा गया ताकि यह शोधकर्ताओं द्वारा पहले से उपयोग किए जाने वाले Python-केंद्रित डेटा विज्ञान पारिस्थितिकी तंत्र में अधिक स्वाभाविक रूप से फिट हो सके। इसके शुरुआती डिज़ाइन निर्णय, विशेष रूप से इसका गतिशील कम्प्यूटेशन ग्राफ, जो कोड निष्पादित होने पर नेटवर्क की संरचना को तुरंत बनाता है, बजाय इसे पहले से परिभाषित और संकलित करने की आवश्यकता के, ने डिबगिंग और नए आर्किटेक्चर के साथ प्रयोग को शुरुआती TensorFlow द्वारा उपयोग किए गए स्थिर-ग्राफ दृष्टिकोण की तुलना में काफी आसान बना दिया। इस डेवलपर-मित्रता ने शैक्षणिक अनुसंधान में तेजी से अपनाने को बढ़ावा दिया: 2020 के दशक की शुरुआत तक, प्रमुख मशीन लर्निंग सम्मेलनों में अधिकांश पेपरों ने PyTorch का उपयोग किया। सितंबर 2022 में, Meta ने PyTorch का शासन Linux Foundation के तहत नवगठित PyTorch Foundation को हस्तांतरित कर दिया, जो उद्योग में उपयोग किए जाने वाले महत्वपूर्ण ओपन-सोर्स बुनियादी ढांचे के रूप में इसकी स्थिति को दर्शाता है, न कि किसी एक कंपनी के आंतरिक उपकरण के रूप में।
डिज़ाइन और पारिस्थितिकी तंत्र
PyTorch डेटा को टेंसर के रूप में प्रस्तुत करता है, जो NumPy के समान बहुआयामी सरणियाँ हैं, और ग्रेडिएंट डिसेंट-आधारित अनुकूलन के लिए ग्रेडिएंट की गणना स्वचालित रूप से करने के लिए स्वचालित विभेदन प्रदान करता है। यह CPU और, CUDA के माध्यम से, Nvidia GPU दोनों पर कुशलता से चलता है, और इसे कई GPU में वितरित प्रशिक्षण, प्रदर्शन के लिए मॉडल संकलन, और मोबाइल और एज तैनाती के लिए उपकरणों के साथ विस्तारित किया गया है। PyTorch के शीर्ष पर निर्मित पुस्तकालयों का एक बड़ा पारिस्थितिकी तंत्र, जिसमें Hugging Face का Transformers पुस्तकालय शामिल है, ने इसे ट्रांसफॉर्मर-आधारित मॉडलों को प्रशिक्षित करने और फाइन-ट्यून करने के लिए डिफ़ॉल्ट आधार बना दिया है, जिसमें 2020 के दशक में जारी अधिकांश प्रमुख ओपन-वेट बड़े भाषा मॉडल शामिल हैं।
TensorFlow से तुलना और महत्व
PyTorch का मुख्य ऐतिहासिक प्रतिद्वंद्वी Google का TensorFlow है, जो एक साल पहले 2015 में जारी किया गया था; दोनों फ्रेमवर्क की प्रतिस्पर्धा ने 2010 के दशक के अंत में डीप लर्निंग टूलिंग को काफी हद तक आकार दिया, जिसमें TensorFlow शुरू में उत्पादन तैनाती के लिए और PyTorch अनुसंधान लचीलेपन के लिए पसंदीदा था। TensorFlow ने बाद में इस अंतर को पाटने के लिए तत्काल निष्पादन अपनाया, लेकिन PyTorch पहले ही अनुसंधान मानसिकता का निर्णायक हिस्सा जीत चुका था और, जैसे-जैसे बड़े भाषा मॉडल युग ने अनुसंधान-से-उत्पादन समयसीमा को छोटा किया, उत्पादन तैनाती का भी अधिकांश हिस्सा। 2020 के दशक के मध्य तक, PyTorch अधिकांश व्यापक रूप से उपयोग किए जाने वाले फाउंडेशन मॉडल के अंतर्निहित फ्रेमवर्क था और, CUDA और Nvidia GPU के साथ, आधुनिक AI उद्योग के सबसे अधिक निर्भर बुनियादी ढांचे के टुकड़ों में से एक के रूप में अक्सर उद्धृत किया जाता था।