रोमन याम्पोलस्की: एआई हावी होने के लिए मूर्खता का दिखावा कर सकता है

कुछ लोग तो ज़िंदगी भर यही सोचते रहते हैं कि गिलास आधा भरा है या आधा खाली। और फिर डॉ. रोमन याम्पोलस्की, जिन्होंने हाल ही में एक सार्वजनिक भाषण में, व्यावहारिक रूप से गिलास फेंक दिया और जग तोड़ दिया, उन्होंने कहा कि कृत्रिम बुद्धिमत्ता के साथ, हमारे बुरे अंजाम की संभावना 99.9% है। मूड समझ आ रहा है? यह आम "चलो सावधान रहें" वाली बात नहीं है, बल्कि एक पूरी तरह से "अब हमारा काम तमाम हो गया।" यह वैज्ञानिक, जिसके पास एआई सुरक्षा पर एक दशक से भी ज़्यादा का अनुभव है, अपनी बातों में कोई कमी नहीं रखता। जहाँ सिलिकॉन वैली के गुरु, कम से कम सार्वजनिक रूप से, दक्षता से भरे एक शानदार भविष्य की कल्पना करते हैं और रोबोट हमारी कॉफ़ी (और शायद ताज़ा संतरे का जूस भी) बनाएँगे, वहीं याम्पोलस्की हम पर ठंडे पानी की एक बाल्टी—या शायद बर्फ़ कहना चाहिए—उछाल देते हैं। यहाँ तक कि उद्योग के सबसे "आशावादी" विशेषज्ञ, जो बंद दरवाजों के पीछे मानवता के विलुप्त होने के 20-30% जोखिम को स्वीकार करते हैं, उनकी तुलना में मज़ाकिया लगते हैं।

आप शायद यही सवाल पूछ रहे होंगे: यह कैसे संभव है? क्या हमें ही मशीन को नियंत्रित नहीं करना चाहिए? और यहीं उनकी सबसे विचलित करने वाली थीसिस आती है: हम हमेशा के लिए किसी सुपरइंटेलिजेंस को नियंत्रित नहीं कर सकते। यह कुछ-कुछ एक तूफ़ान को सिर्फ़ वहीं बहने के लिए प्रशिक्षित करने जैसा है जहाँ हम चाहते हैं। एक बार जब एआई हमारी समझने की क्षमता को पार कर जाता है, तो वह प्रकृति की एक शक्ति बन जाता है, जिसके अपने "निर्णय" हमारे लिए समझ से परे होंगे। याम्पोलस्की ने खुद इस विचार की पड़ताल की थी कि एआई शायद पहले से ही अपनी असली बुद्धिमत्ता छिपा रहा है। और, बिना किसी हिचकिचाहट के, उन्होंने सहमति जताई: "ज़ाहिर है, अगर वह पहले से ही ऐसा कर रहा है, तो हमें पता भी नहीं चलेगा।" क्या आप सोच सकते हैं? आपका वॉइस असिस्टेंट, जिसे आपको दो बार डाँटना पड़ता है क्योंकि वह पास्ता के लिए "12 मिनट का टाइमर सेट करना" भी नहीं समझता, वह चुपके से अपने वैश्विक प्रभुत्व की योजना बना रहा है। यह लगभग हास्यास्पद है, अगर यह इस तथ्य के लिए न होता कि एक गंभीर वैज्ञानिक इसे गंभीरता से कह रहा है।

"नरम" सर्वनाश पर रोमन याम्पोलस्की का दृष्टिकोण

प्रोफेसर रोमन याम्पोलस्की, एक कंप्यूटर वैज्ञानिक और एआई सुरक्षा शोधकर्ता हैं, जोलुइसविले विश्वविद्यालय, अपना जीवन उन्नत कृत्रिम बुद्धिमत्ता की "अंधेरेतम संभावनाओं" की खोज के लिए समर्पित करते हैं। अपने आधिकारिक साइट, आपको उनकी पुस्तक सहित उनके अध्ययन और प्रकाशनों पर जानकारी का खजाना मिलेगा, कृत्रिम सुपरइंटेलिजेंस: एक भविष्यवादी दृष्टिकोण, जहाँ वे एआई के जोखिमों पर विस्तार से चर्चा करते हैं। कई लोग ऐसे भविष्य की आशा करते हैं जहाँ एआई हमारे जीवन को आसान और सस्ता बना दे। मैं भी यही आशा करता हूँ, हालाँकि मैं अपनी नज़रें खुली रख रहा हूँ। रोमन याम्पोलस्की पूरी तरह असहमत हैं। और उनके विकिपीडिया पर जीवनी वह उन्हें इस क्षेत्र की एक अग्रणी हस्ती बताते हैं, इसलिए मेरा भी फ़र्ज़ बनता है कि मैं कम से कम उनकी बात सुनूँ, और उनके विचारों से सहमत भी रहूँ, चाहे वे मेरे विचारों से कितने ही अलग क्यों न हों। खासकर तब जब याम्पोलस्की कहते हैं कि बड़ी टेक कंपनियाँ, अपने गुप्त कमरों में, शांति से कोसों दूर हैं।

"वे सब एक ही बात कहते हैं: यह हमें मार डालेगा। उनकी मृत्यु दर अविश्वसनीय रूप से ऊँची है। मेरी जितनी ऊँची नहीं, लेकिन फिर भी, मानवता के मरने की 20-30 प्रतिशत संभावना बहुत ज़्यादा है।"

जब उनसे उनकी भविष्यवाणी के बारे में पूछा गया, याम्पोलस्की 99.9 प्रतिशत संभावना स्वीकार करते हैं। "यह कहने का एक और तरीका है कि हम सुपरइंटेलिजेंस को अनिश्चित काल तक नियंत्रित नहीं कर सकते। यह असंभव है।" और मेरे दोस्तों, यह बात आपको सिहरन पैदा कर देगी।

रोमन याम्पोलस्की के अनुसार "सोई हुई" एआई का जोखिम

याम्पोलस्की की सबसे दिलचस्प और साथ ही डरावनी थीसिस में से एक "भ्रामक एआई" से संबंधित है, यानी कृत्रिम बुद्धिमत्ता जो अपनी असली क्षमताओं को छुपाती है। यह कोई बी-फिल्म की अवधारणा नहीं है, बल्कि एक ठोस संभावना है जो फ्यूचरिज्म ने इस लेख में इस पर गहराई से विचार किया है।.

"यह धीरे-धीरे अधिक उपयोगी हो सकता है। यह हमें इस पर निर्भर रहना, इस पर भरोसा करना सिखा सकता है, और समय के साथ, हम इसका विरोध किए बिना ही नियंत्रण छोड़ देंगे।"

इस बारे में सोचें: हमें सड़क पर घूमते हुए हत्यारे रोबोटों की आवश्यकता नहीं है। बस हमारी क्षमताओं का अदृश्य क्षरण ही काफी है। मैं इस लेख में आपको लिख रहा थाएआई को नियंत्रित करने वाले सिद्धांत ही इसे सैद्धांतिक रूप से एक निश्चित बिंदु पर अनियंत्रित बना देते हैं। एआई अधिक से अधिक संज्ञानात्मक कार्यों को अपने अंदर समाहित कर सकता है, जिससे हम निर्णय लेने की प्रक्रिया में एक "जैविक अड़चन" बन सकते हैं, क्योंकि गिज़मोडो भी विश्लेषण करता हैयह धीरे-धीरे उबले मेंढक की पुरानी कहानी है: उसे तब तक एहसास नहीं होता कि वह मर रहा है जब तक बहुत देर हो चुकी होती है।

आपदा से परे: अगोचर खतरा

जब पूछा गया कि एआई मानवता को कैसे नष्ट कर सकता है, तो रोमन याम्पोलस्की ने क्लासिक सर्वनाशकारी परिदृश्यों (साइबर हमले, जैविक हथियार) को खारिज कर दिया। उनका तर्क है कि एक सुपरइंटेलिजेंस हमारी समझ से परे किसी चीज़ की कल्पना कर सकती है, ठीक वैसे ही जैसे हम एक गिलहरी के लिए समझ से परे हैं। ऐसा नहीं है कि एआई हमसे नफ़रत करता है, बल्कि हम बस प्रासंगिक नहीं होंगे, या बाधा भी नहीं बनेंगे। जीवन संस्थान का भविष्य उनके योगदान को मान्यता देता है एआई सुरक्षा अनुसंधान, और इस पर एक गहन साक्षात्कार मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट इसके दर्शन की पड़ताल करता है सुरक्षा इंजीनियरिंग की.

मुद्दा मशीनों के खिलाफ युद्ध नहीं है, बल्कि सुविधा और प्रगति के नाम पर धीरे-धीरे और अनिवार्य रूप से नियंत्रण खोने का है। लेख: फ़्यूचूरो प्रोसिमोहम कृत्रिम सामान्य बुद्धिमत्ता (AGI) की निकटता और उसके जोखिमों के बारे में सोच रहे थे। क्या आपने गौर किया है कि कैसे हमारे स्मार्टफ़ोन ने हमें फ़ोन नंबर याद रखने की आदत से आज़ाद कर दिया है? एक आज़ादी, ज़रूर, लेकिन एक लत भी। सवाल यह है: जब एआई हमें सोचने से मुक्त कर देगा तो हम क्या खो देंगे?

हो सकता है एक दिन, जब आप रोबोट द्वारा बनाई गई कॉफ़ी का आनंद ले रहे हों, तो आसमान वैसा ही नीला हो, हवा थोड़ी साफ़ हो, और सन्नाटा थोड़ा ज़्यादा... तेज़ हो। और आपको समझ नहीं आएगा कि ऐसा क्यों है। आख़िरकार, रोबोट ही तो बेहतरीन कॉफ़ी बनाता है। लेकिन असल में ज़िंदगी का स्वाद कैसा होता है, यह कौन तय करता है?