अमोदेई, एंथ्रोपिक: 'एआई जल्द ही दोहराने और स्वायत्त रूप से जीवित रहने में सक्षम होगा'

2025 और 2028 के बीच कभी भी। यह वह समय विंडो है जिसमें डारियो एमोडी, एंथ्रोपिक के सीईओ और के "पिता"। क्लाउड एआई, भविष्यवाणी करता है कि एआई मॉडल स्वायत्त रूप से दोहराने और जीवित रहने की क्षमता हासिल कर सकते हैं। एक चौंकाने वाला बयान, जो सबसे शक्तिशाली और "जिम्मेदार" कृत्रिम बुद्धिमत्ता बनाने की दौड़ के नायकों में से एक की ओर से आया है। में साक्षात्कार न्यूयॉर्क टाइम्स में, अमोदेई ने एआई के विकास की तुलना वायरोलॉजी प्रयोगशालाओं के जैव सुरक्षा स्तरों से की है, चेतावनी दी है कि "जिम्मेदार स्केलिंग" के बिना, प्रौद्योगिकी जल्द ही वैश्विक सुरक्षा के लिए खतरनाक प्रभाव के साथ स्वायत्तता और अत्यधिक प्रेरकता प्राप्त कर सकती है।

जैव सुरक्षा स्तरों के साथ सादृश्य

अपनी दृष्टि को समझाने के लिए, अमोदेई एक शक्तिशाली सादृश्य का उपयोग करता है: वायरोलॉजी प्रयोगशालाओं के जैव सुरक्षा स्तर (एएसएल)। एंथ्रोपिक के सीईओ के मुताबिक, हम फिलहाल एआई डेवलपमेंट में एएसएल लेवल 2 पर हैं। लेकिन एएसएल स्तर 4, जिसमें "स्वायत्तता" और "अनुनय" शामिल होंगे, निकट आ सकते हैं।

एएसएल 4 दुरुपयोग पक्ष पर अधिक केंद्रित होगा, जो राज्य अभिनेताओं को नाटकीय रूप से अपनी क्षमताओं को बढ़ाने की अनुमति देगा, जो कि यादृच्छिक लोगों को अनुमति देने से कहीं अधिक कठिन है। यह चिंताजनक होगा यदि उत्तर कोरिया, चीन या रूस एआई के साथ विभिन्न सैन्य क्षेत्रों में अपनी आक्रामक क्षमताओं में उल्लेखनीय सुधार कर सकें, जिससे उन्हें पर्याप्त भूराजनीतिक लाभ मिलेगा।

डारियो एमोडी

और यह ठीक "स्वायत्तता" के पक्ष में है कि अमोदेई की भविष्यवाणियाँ और भी अधिक चिंताजनक हो जाती हैं।

इन मॉडलों के विभिन्न संस्करण जंगल में दोहराने और जीवित रहने में सक्षम होने के काफी करीब हैं।

डारियो एमोडी

जब साक्षात्कारकर्ता ने इतालवी-अमेरिकी शोधकर्ता से पूछा कि खतरे के इन विभिन्न स्तरों तक पहुंचने में कितना समय लगेगा, अमोदेई (जो कहता है कि वह "तेजी से सोचने के लिए इच्छुक है") कहता है कि "दोहराने और जीवित रहने" के स्तर तक हर जगह पहुंचा जा सकता है। 2025 और 2028” “मैं यहाँ वास्तव में निकट भविष्य के बारे में बात कर रहा हूँ। मैं अब से 50 वर्षों के बारे में बात नहीं कर रहा हूँ," एंथ्रोपिक सीईओ जोर देते हैं। “भगवान मुझे सतीत्व प्रदान करें, लेकिन अभी नहीं। लेकिन 'अभी नहीं' का मतलब यह नहीं है कि मैं बूढ़ा और धूसर हो जाऊंगा। मुझे लगता है कि यह एक अल्पकालिक चीज़ हो सकती है।"

मानवशास्त्रीय, ऐसे शब्द जिनमें वजन होता है

एआई क्षेत्र में उनकी अग्रणी भूमिका को देखते हुए, अमोदेई के शब्दों में विशेष महत्व है। नेल 2021जीपीटी-3 बनाने में मदद करने और माइक्रोसॉफ्ट के साथ साझेदारी देखने के बाद, उन्होंने और उनकी बहन डेनिएला ने कंपनी की दिशा पर मतभेद के कारण ओपनएआई छोड़ दिया। इसके तुरंत बाद, भाइयों ने एआई को "जिम्मेदारी से बढ़ाने" के अपने प्रयासों को जारी रखने के लक्ष्य के साथ अन्य पूर्व ओपनएआई कर्मचारियों के साथ मिलकर एंथ्रोपिक की स्थापना की।

"मैं गलत हो सकता हूं। लेकिन मुझे लगता है कि यह एक अल्पकालिक चीज़ हो सकती है।" ऐसे शब्द, जो अपनी अनिश्चितता के बावजूद, एक संकेत की तरह लगते हैं कि उन्हें कम न आंका जाए।

ऐसे संदर्भ में जहां एआई के बारे में चिंताएं दिन पर दिन बढ़ती दिख रही हैं, अमोदेई का परिप्रेक्ष्य (उद्योग के भीतर से उनके अत्यधिक विशेषाधिकार प्राप्त लाभ बिंदु के साथ) इस विघटनकारी प्रौद्योगिकी के जिम्मेदार शासन की आवश्यकता को और अधिक महत्व देता है। एंथ्रोपिक का मिशन, "यह सुनिश्चित करना कि परिवर्तनकारी एआई लोगों और समाज को आगे बढ़ने में मदद करता है," इसके सीईओ द्वारा तैयार किए गए परिदृश्यों के सामने पहले से कहीं अधिक जरूरी लगता है। यदि एआई मॉडल वास्तव में दोहराने और स्वायत्त रूप से जीवित रहने की क्षमता हासिल करने के करीब हैं, विशेष रूप से अपने "विकास" को तेज करके धन्यवादअवतार, यह आवश्यक है कि उनका विकास नैतिक सिद्धांतों और जिम्मेदारी द्वारा निर्देशित हो।

मुझे पहले से ही पता है कि तुम क्या सोच रहे हो

यह वह फीडबैक है जो मुझे अक्सर तब मिलता है जब मैं कृत्रिम बुद्धिमत्ता के विभिन्न "कैपटाज़" के बयानों की रिपोर्ट करता हूं। ऑल्टमैन, मस्क और अब अमोदेई भी किसी ऐसी चीज़ के विकास पर कड़ी मेहनत कर रहे हैं जिसे वे कभी-कभी बहुत खतरनाक के रूप में परिभाषित करना पसंद करते हैं। क्यों? आप में से बहुत से लोग मुझे लिखते हैं कि यह मार्केटिंग है: "अपमानजनक", यहां तक ​​कि अलार्म बजाने वाले भी, कंपनी और उत्पाद की ओर ध्यान आकर्षित करते हैं। मानो कह रहे हों, "अरे, हम इस तरह के घातक वायरस से निपट रहे हैं, लेकिन जानते हैं कि हम इसे बहुत सावधानी से करेंगे, क्योंकि हम इसकी बहुत परवाह करते हैं।"

शायद। निःसंदेह, अमोदेई की भविष्यवाणियाँ चिंताजनक और अतिशयोक्तिपूर्ण लगती हैं। लेकिन कृत्रिम बुद्धिमत्ता जैसे तेजी से विकसित हो रहे क्षेत्र में, जहां प्रगति तेजी से एक-दूसरे का अनुसरण कर रही है, सबसे चरम परिदृश्यों के लिए भी तैयारी करना बुद्धिमानी है। चाहे वह राज्य अभिनेताओं द्वारा एआई के दुर्भावनापूर्ण उपयोग को रोकना हो (उन सभी को, केवल अमोदेओ द्वारा नामित लोगों को नहीं, क्योंकि "सबसे साफ व्यक्ति को परेशानी होती है") या यह सुनिश्चित करना कि मॉडल मानव नियंत्रण से बच न जाएं, चुनौती बहुत बड़ी है और इसकी आवश्यकता है कंपनियों, सरकारों और नागरिक समाज का एक संयुक्त प्रयास।

अमोदेई के शब्द, उनकी अटकलबाजी प्रकृति के बावजूद, इन महत्वपूर्ण मुद्दों पर बहस और कार्रवाई में तेजी लाने के लिए एक प्रेरणा के रूप में काम करने चाहिए। बेशक, एक बहस, जिसमें 'गेंद' केवल एआई डेवलपर्स की नहीं, बल्कि पूरे नागरिक समाज की होनी चाहिए। आइए वास्तव में पहले शुरू करें: हम जितनी जल्दी शुरुआत करें, उतना बेहतर होगा।