एक न्यूरल ट्यूरिंग मशीन (NTM) एक आवर्तक तंत्रिका नेटवर्क मॉडल है जो ट्यूरिंग मशीन का अनुकरण करता है। इसे 2014 में एलेक्स ग्रेव्स और उनके सहयोगियों द्वारा प्रस्तुत किया गया था। NTM तंत्रिका नेटवर्क की अस्पष्ट पैटर्न मिलान क्षमताओं को प्रोग्रामेबल कंप्यूटरों की एल्गोरिथमिक शक्ति के साथ जोड़ते हैं, जिससे वे उदाहरणों से सरल एल्गोरिदम सीख सकते हैं।
वास्तुकला में बाहरी मेमोरी संसाधनों से जुड़ा एक तंत्रिका नेटवर्क नियंत्रक शामिल है। नियंत्रक ध्यानात्मक तंत्रों के माध्यम से मेमोरी के साथ बातचीत करता है, और पूरी प्रणाली अंत-से-अंत तक विभेदनीय है, जिससे ग्रेडिएंट डिसेंट के माध्यम से अनुकूलन संभव होता है। लंबी अल्पकालिक मेमोरी (LSTM) नियंत्रक के साथ, एक NTM अकेले उदाहरणों से कॉपी करना, छांटना, और साहचर्य स्मरण जैसे एल्गोरिदम का अनुमान लगा सकता है।
वास्तुकला और संचालन
NTM का नियंत्रक आमतौर पर एक आवर्तक तंत्रिका नेटवर्क होता है, जैसे LSTM या एक फीडफॉरवर्ड नेटवर्क। यह इनपुट प्राप्त करता है और आउटपुट उत्पन्न करता है, साथ ही बाहरी मेमोरी मैट्रिक्स पर पढ़ने और लिखने के संचालन भी करता है। मेमोरी को सामग्री-आधारित और स्थान-आधारित ध्यान का उपयोग करके संबोधित किया जाता है, जो नेटवर्क को विशिष्ट मेमोरी स्थानों पर ध्यान केंद्रित करने की अनुमति देता है। इन संचालनों की विभेदनीय प्रकृति बैकप्रोपेगेशन के माध्यम से प्रशिक्षण को सक्षम बनाती है।
ऐतिहासिक संदर्भ और प्रभाव
ग्रेव्स एट अल. का 2014 का पेपर ऐसे समय में प्रकाशित हुआ जब डीप लर्निंग तेजी से आगे बढ़ रही थी। NTM पहले मॉडलों में से थे जिन्होंने बाहरी मेमोरी को स्पष्ट रूप से तंत्रिका नेटवर्क में एकीकृत किया, जिससे बाद की वास्तुकलाओं जैसे Transformer (architecture) और बड़े भाषा मॉडल को प्रभावित किया। यह अवधारणा ट्यूरिंग मशीन से प्रेरणा लेती थी और तंत्रिका नेटवर्क और प्रतीकात्मक गणना के बीच की खाई को पाटने का लक्ष्य रखती थी।
कार्यान्वयन और चुनौतियाँ
मूल लेखकों ने अपना स्रोत कोड जारी नहीं किया। पहला स्थिर ओपन-सोर्स कार्यान्वयन 2018 में 27वें अंतर्राष्ट्रीय सम्मेलन में दिखाई दिया, जिसे सर्वश्रेष्ठ पेपर पुरस्कार मिला। अन्य ओपन-सोर्स कार्यान्वयन मौजूद हैं, लेकिन 2018 तक वे उत्पादन उपयोग के लिए पर्याप्त स्थिर नहीं थे। डेवलपर्स ने प्रशिक्षण के दौरान अज्ञात कारणों से ग्रेडिएंट्स के NaN होने, धीमी अभिसरण, या सीखने की गति की कमी जैसी समस्याओं की सूचना दी।
विस्तार और विरासत
विभेदनीय न्यूरल कंप्यूटर NTM की एक उपज हैं, जो मेमोरी गतिविधि को नियंत्रित करने और प्रदर्शन में सुधार करने के लिए अधिक परिष्कृत ध्यान तंत्र शामिल करते हैं। NTM अवधारणा ने तंत्रिका नेटवर्क और मशीन लर्निंग में अनुसंधान को भी व्यापक रूप से प्रभावित किया है, विशेष रूप से मेमोरी-संवर्धित मॉडल की आवश्यकता वाले क्षेत्रों में।