OpenAI Dissolves High-Profile Safety Team After Chief Scientist Sutskever’s Exit
ओपनएआई ने भविष्य में संभावित अति-सक्षम कृत्रिम बुद्धिमत्ता प्रणालियों की सुरक्षा सुनिश्चित करने पर केंद्रित एक टीम को प्रभावी रूप से भंग कर दिया है। ऐसा ओपनएआई के सह-संस्थापक और मुख्य वैज्ञानिक इल्या सुत्सकेवर सहित समूह के दो नेताओं के इस्तीफे के बाद हुआ है।
कंपनी ने ब्लूमबर्ग न्यूज़ को बताया कि तथाकथित सुपरअलाइनमेंट टीम को एक अलग इकाई के रूप में बनाए रखने के बजाय, ओपनएआई अब अपने शोध प्रयासों में समूह को और अधिक गहराई से एकीकृत कर रही है ताकि कंपनी को अपने सुरक्षा लक्ष्यों को प्राप्त करने में मदद मिल सके। टीम का गठन एक साल से भी कम समय पहले सुत्सकेवर और ओपनएआई के एक अन्य दिग्गज जान लीके के नेतृत्व में किया गया था।
टीम पर पुनर्विचार करने का निर्णय ऐसे समय में लिया गया है जब ओपनएआई से हाल ही में कई लोगों के जाने से कंपनी के एआई उत्पादों को विकसित करने में गति बनाम सुरक्षा के बीच संतुलन बनाने के दृष्टिकोण पर सवाल उठने लगे हैं। सुत्सकेवर, एक व्यापक रूप से सम्मानित शोधकर्ता, ने मंगलवार को घोषणा की कि वह ओपनएआई छोड़ रहे हैं, क्योंकि पहले उनका मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन के साथ इस बात पर विवाद हुआ था कि कृत्रिम बुद्धिमत्ता को कितनी तेजी से विकसित किया जाए।
लेइक ने सोशल मीडिया पर एक संक्षिप्त पोस्ट के ज़रिए कुछ ही समय बाद अपने इस्तीफे का खुलासा किया। उन्होंने कहा, “मैंने इस्तीफ़ा दे दिया।” लेइक के लिए, सुत्सकेवर का कंपनी से बाहर जाना कंपनी के साथ मतभेदों के बाद आखिरी झटका था, जैसा कि स्थिति से परिचित एक व्यक्ति ने बताया, जिसने निजी बातचीत पर चर्चा करने के लिए पहचान न बताने की शर्त पर बताया।
शुक्रवार को एक बयान में लीके ने कहा कि सुपरअलाइनमेंट टीम संसाधनों के लिए संघर्ष कर रही थी। लीके ने एक्स पर लिखा, “पिछले कुछ महीनों में मेरी टीम हवा के विपरीत दिशा में जा रही थी।” “कभी-कभी हमें कंप्यूट के लिए संघर्ष करना पड़ता था और इस महत्वपूर्ण शोध को पूरा करना कठिन होता जा रहा था।”
कुछ घंटों बाद, ऑल्टमैन ने लीके की पोस्ट पर प्रतिक्रिया दी। ऑल्टमैन ने एक्स पर लिखा, “वह सही कह रहे हैं कि हमें अभी बहुत कुछ करना है।” “हम इसे करने के लिए प्रतिबद्ध हैं।”
सुपरअलाइनमेंट टीम के अन्य सदस्यों ने भी हाल के महीनों में कंपनी छोड़ दी है। लियोपोल्ड एशेनब्रेनर और पावेल इज़मेलोव को ओपनएआई ने निकाल दिया। सूचना ने पहले उनके जाने की सूचना दी थी। मामले से परिचित एक व्यक्ति के अनुसार इज़मेलोव को उनके जाने से पहले ही टीम से निकाल दिया गया था। एशेनब्रेनर और इज़मेलोव ने टिप्पणी के अनुरोधों का जवाब नहीं दिया।
कंपनी ने कहा कि जॉन शुलमैन, स्टार्टअप के सह-संस्थापक हैं, जिनका शोध बड़े भाषा मॉडल पर केंद्रित है, वे ओपनएआई के संरेखण कार्य के लिए वैज्ञानिक नेतृत्व करेंगे। इसके अलावा, ओपनएआई ने एक ब्लॉग पोस्ट में कहा कि उसने मुख्य वैज्ञानिक के रूप में सुत्सकेवर की भूमिका संभालने के लिए अनुसंधान निदेशक जैकब पचोकी को नामित किया है।
मंगलवार को पैचॉकी की नियुक्ति के बारे में एक बयान में ऑल्टमैन ने कहा, “मुझे पूरा भरोसा है कि वह हमें यह सुनिश्चित करने के हमारे मिशन की दिशा में तेजी से और सुरक्षित प्रगति करने में मदद करेंगे कि एजीआई सभी को लाभ पहुंचाए।” एजीआई, या कृत्रिम सामान्य बुद्धिमत्ता, एआई को संदर्भित करता है जो अधिकांश कार्यों में मनुष्यों की तरह या उनसे बेहतर प्रदर्शन कर सकता है। एजीआई अभी तक अस्तित्व में नहीं है, लेकिन इसे बनाना कंपनी के मिशन का हिस्सा है।
ओपनएआई के कर्मचारी कंपनी भर में एआई-सुरक्षा से संबंधित कामों में लगे हुए हैं, साथ ही सुरक्षा पर ध्यान केंद्रित करने वाली व्यक्तिगत टीमें भी हैं। एक, तैयारी टीम, जिसे पिछले अक्टूबर में लॉन्च किया गया था और जो एआई सिस्टम के संभावित “विनाशकारी जोखिमों” का विश्लेषण करने और उन्हें दूर करने की कोशिश करने पर ध्यान केंद्रित करती है।
सुपरअलाइनमेंट टीम का उद्देश्य दीर्घकालिक खतरों से निपटना था। ओपनएआई ने पिछले जुलाई में सुपरअलाइनमेंट टीम के गठन की घोषणा की थी, जिसमें कहा गया था कि यह भविष्य के कृत्रिम बुद्धिमत्ता सॉफ़्टवेयर की सुरक्षा को नियंत्रित करने और सुनिश्चित करने पर ध्यान केंद्रित करेगी जो मनुष्यों से अधिक स्मार्ट है – कुछ ऐसा जिसे कंपनी ने लंबे समय से एक तकनीकी लक्ष्य के रूप में बताया है। घोषणा में, ओपनएआई ने कहा कि वह उस समय अपनी कंप्यूटिंग शक्ति का 20% टीम के काम पर लगाएगा।
नवंबर में, सुत्सकेवर ओपनएआई बोर्ड के कई सदस्यों में से एक थे, जिन्होंने ऑल्टमैन को हटाने का फैसला किया, इस फैसले ने कंपनी में पांच दिनों तक तूफान मचा दिया। ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन ने विरोध में पद छोड़ दिया, निवेशकों ने विद्रोह कर दिया और कुछ ही दिनों में, स्टार्टअप के लगभग सभी 770 कर्मचारियों ने एक पत्र पर हस्ताक्षर किए, जिसमें ऑल्टमैन को वापस नहीं लाने पर नौकरी छोड़ने की धमकी दी गई थी। एक उल्लेखनीय उलटफेर में, सुत्सकेवर ने भी पत्र पर हस्ताक्षर किए और कहा कि उन्हें ऑल्टमैन को हटाने में अपनी भागीदारी पर खेद है। इसके तुरंत बाद, ऑल्टमैन को बहाल कर दिया गया।
ऑल्टमैन के बाहर निकलने और वापस आने के बाद के महीनों में, सुत्सकेवर सार्वजनिक रूप से गायब हो गए, जिससे कंपनी में उनकी भूमिका जारी रहने के बारे में अटकलें लगाई जाने लगीं। मामले से परिचित एक व्यक्ति के अनुसार, सुत्सकेवर ने ओपनएआई के सैन फ्रांसिस्को कार्यालय से काम करना भी बंद कर दिया।
अपने बयान में, लेइक ने कहा कि उनका प्रस्थान ओपनएआई के साथ कंपनी की “मुख्य प्राथमिकताओं” के बारे में असहमति की एक श्रृंखला के बाद हुआ, जो उन्हें लगता है कि एआई के निर्माण से संबंधित सुरक्षा उपायों पर पर्याप्त ध्यान केंद्रित नहीं किया गया है, जो लोगों की तुलना में अधिक सक्षम हो सकते हैं।
इस सप्ताह के शुरू में अपने इस्तीफे की घोषणा करते हुए सुत्सकेवर ने कहा कि उन्हें “विश्वास” है कि ओपनएआई अपने वर्तमान नेतृत्व, जिसमें ऑल्टमैन भी शामिल हैं, के तहत एजीआई का विकास करेगा जो “सुरक्षित और लाभकारी दोनों होगा”।
© 2024 ब्लूमबर्ग एल.पी.
(यह कहानी एनडीटीवी स्टाफ द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड फीड से स्वतः उत्पन्न होती है।)
