जन लीके

जान लाइके एक AI संरेखण शोधकर्ता हैं, जिन्होंने OpenAI की सुपरअलाइनमेंट टीम का सह-नेतृत्व किया और 2024 में एक हाई-प्रोफाइल इस्तीफे के बाद Anthropic में शामिल हो गए।

DeepMind और OpenAI में करियर

लाइके के पास ऑस्ट्रेलियाई राष्ट्रीय विश्वविद्यालय से सुदृढीकरण सीखने के सिद्धांत में पीएचडी है। OpenAI में शामिल होने से पहले, उन्होंने AI सुरक्षा और संरेखण समस्याओं पर DeepMind में एक शोध वैज्ञानिक के रूप में काम किया। OpenAI में, उन्होंने मॉडलों को अधिक सहायक और ईमानदार बनाने के लिए प्रशिक्षण तकनीकों पर व्यापक रूप से काम किया, जिसमें RLHF अनुसंधान कार्यक्रम में योगदान दिया जिसने ChatGPT को आकार दिया और बाद में स्केलेबल ओवरसाइट और कमजोर-से-मजबूत सामान्यीकरण पर OpenAI के काम का सह-लेखन किया।

सुपरअलाइनमेंट और इस्तीफा

जुलाई 2023 में, OpenAI ने सुपरअलाइनमेंट टीम की घोषणा की, जिसका सह-नेतृत्व लाइके और OpenAI के सह-संस्थापक Ilya Sutskever ने किया, जिसका लक्ष्य चार वर्षों के भीतर एक काल्पनिक भविष्य के अति-बुद्धिमान AI प्रणाली को संरेखित करने की तकनीकी समस्या को हल करना था, जिसे महत्वपूर्ण कंप्यूटिंग संसाधनों की प्रतिबद्धता द्वारा समर्थित किया गया था। टीम के काम ने व्याख्यात्मकता, स्केलेबल ओवरसाइट और स्वचालित संरेखण अनुसंधान को छुआ।

मई 2024 में, लाइके ने OpenAI से इस्तीफा दे दिया, सार्वजनिक रूप से कहा कि कंपनी में "सुरक्षा संस्कृति और प्रक्रियाओं ने चमकदार उत्पादों के पीछे सीट ले ली है" और उनकी टीम को वादा किए गए कंप्यूटिंग संसाधनों को पाने के लिए संघर्ष करना पड़ रहा था। उनका इस्तीफा सुत्सकेवर के अपने प्रस्थान के उसी सप्ताह आया और तेजी से उत्पाद तैनाती और दीर्घकालिक सुरक्षा अनुसंधान के बीच संतुलन पर OpenAI में आंतरिक तनावों की ओर महत्वपूर्ण ध्यान आकर्षित किया, ये तनाव नवंबर 2023 के OpenAI board crisis के दौरान भी सामने आए थे।

Anthropic में कदम

OpenAI छोड़ने के तुरंत बाद, लाइके संरेखण अनुसंधान जारी रखने के लिए Anthropic में शामिल हो गए, शोधकर्ताओं के एक बढ़ते समूह में शामिल होते हुए, जिसमें पहले के आगमन जैसे Jared Kaplan और Chris Olah शामिल थे, जो सुरक्षा प्राथमिकता पर असहमति के कारण OpenAI से Anthropic में स्थानांतरित हुए थे। Anthropic में, उन्होंने स्केलेबल ओवरसाइट और मॉडल मूल्यांकन से संबंधित काम जारी रखा है।

प्रभाव

लाइके का सार्वजनिक इस्तीफा पत्र AI सुरक्षा समुदाय की चर्चा में सबसे व्यापक रूप से प्रसारित दस्तावेजों में से एक बन गया, जिसमें यह सवाल उठाया गया कि क्या फ्रंटियर प्रयोगशालाओं के आंतरिक प्रोत्साहन उनके कथित सुरक्षा वादों का विश्वसनीय रूप से समर्थन करते हैं, यह बहस AI governance और दीर्घकालिक AI जोखिम में व्यापक सवालों से निकटता से जुड़ी हुई है। उनका प्रस्थान, अन्य सुरक्षा-केंद्रित शोधकर्ताओं के समान निकास के बाद, अक्सर इस बात के प्रमाण के रूप में उद्धृत किया गया कि तेजी से आगे बढ़ने वाली वाणिज्यिक प्रयोगशालाओं में आंतरिक संरेखण टीमों को कंप्यूटिंग और हेडकाउंट के लिए उत्पाद समयसीमा के साथ प्रतिस्पर्धा करने के लिए संरचनात्मक दबाव का सामना करना पड़ता है।