क्लॉड एआई के दिमाग के अंदर: एंथ्रोपिक से सिस्टम संकेतों का पता चलता है

क्या आपने कभी जानना चाहा है कि कृत्रिम बुद्धि के "दिमाग" में क्या चलता है? खैर, आपकी इच्छा पूरी हो गई है। anthropic अभी-अभी सिस्टम प्रॉम्प्ट पोस्ट किया है क्लाउड एआई, दुनिया के सबसे उन्नत चैटबॉट्स में से एक की आंतरिक कार्यप्रणाली पर एक अभूतपूर्व नज़र पेश करता है। यह भविष्य के स्रोत कोड तक पहुंच प्राप्त करने जैसा है। मैं आपको अभी बताऊंगा, लेकिन यदि आप स्वयं देखना चाहें आप उन्हें यहां पा सकते हैं।

एंथ्रोपिक ने क्लाउड एआई पर से पर्दा उठाया

एआई परिदृश्य में, जहां व्यापार गोपनीयता सर्वोच्च है, एंथ्रोपिक ने एक साहसिक कदम उठाया है। कंपनी ने रिलीज़ के लिए सिस्टम प्रॉम्प्ट प्रकाशित करने का निर्णय लिया है क्लाउड 3 हाइकु, क्लाउड 3 ओपस e क्लाउड 3.5 सॉनेट, सिस्टम विकसित होने पर इस जानकारी को अपडेट करने का वादा किया गया है। यह उस उद्योग में पारदर्शिता की दिशा में एक महत्वपूर्ण कदम है जिसकी अक्सर इसकी अपारदर्शिता के लिए आलोचना की जाती है।

ये संकेत, 12 जुलाई 2024 तक अद्यतन किया गया, क्लाउड एआई की आंतरिक कार्यप्रणाली पर एक आकर्षक नज़र डालें। यह ऐसा है मानो हमें कृत्रिम मस्तिष्क के लिए निर्देश पुस्तिका सौंप दी गई हो। लेकिन वास्तव में वे हमारे सामने क्या प्रकट करते हैं?

क्लाउड एआई के कृत्रिम दिमाग में एक गोता

इन संकेतों को पढ़ना क्लाउड एआई के दिमाग में एक निर्देशित भ्रमण करने जैसा है। वे हमें दिखाते हैं कि कैसे सिस्टम को सबसे सामान्य से लेकर सबसे जटिल तक, विभिन्न स्थितियों को संभालने के लिए प्रशिक्षित किया गया है। यह कुछ-कुछ उस खेल के नियमों की खोज करने जैसा है जो क्लाउड हमारे साथ खेल रहा है।

सबसे दिलचस्प पहलुओं में से एक का संबंध है विवादास्पद मुद्दों का प्रबंधन. क्लाउड को उन विषयों पर सहायता प्रदान करने के लिए प्रोग्राम किया गया है जो बड़ी संख्या में लोगों द्वारा साझा किए गए विचारों को व्यक्त करते हैं, चाहे उनकी व्यक्तिगत "राय" कुछ भी हो। संवेदनशील विषयों से निपटते समय, क्लाउड विषय को स्पष्ट रूप से संवेदनशील बताए बिना या जानकारी को वस्तुनिष्ठ तथ्यों के रूप में प्रस्तुत किए बिना, विचारशील प्रतिबिंब और स्पष्ट जानकारी प्रदान करना चाहता है।

क्लाउड की चरण-दर-चरण सोच

एक और दिलचस्प पहलू क्लाउड का तरीका है गणितीय या तार्किक समस्याओं से निपटता है। सिस्टम प्रॉम्प्ट उसे निश्चित उत्तर देने से पहले "कदम दर कदम सोचने" के लिए कहता है। यह ऐसा है मानो डेवलपर्स ने क्लाउड को "गणना दिखाना" सिखाया हो, बिल्कुल एक गणित शिक्षक की तरह।

यह दृष्टिकोण न केवल क्लाउड एआई के उत्तरों को अधिक समझने योग्य बनाता है, बल्कि हमें उसकी तर्क प्रक्रिया की एक झलक भी देता है। यह कुछ-कुछ क्लाउड के कृत्रिम न्यूरॉन्स को काम करते हुए देखने जैसा है।

क्लाउड का "चेहरे का अंधापन": एक नैतिक विकल्प से उत्पन्न सीमा

इन संकेतों से जो सबसे दिलचस्प विवरण सामने आया, वह है क्लाउड एआई का "फेस ब्लाइंडनेस"। सिस्टम को जवाब देने का निर्देश दिया गया मानो वह छवियों में चेहरों को पहचानने में पूरी तरह असमर्थ हो। यह लोगों की पहचान या नाम नहीं ले सकता, या उन्हें पहचान नहीं सकता।

यह विकल्प दिलचस्प नैतिक प्रश्न उठाता है। एक ओर, यह छवियों में व्यक्तियों की गोपनीयता की रक्षा करता है। दूसरी ओर, यह हमें क्लाउड की वास्तविक क्षमताओं पर विचार करने पर मजबूर करता है और यह भी बताता है कि कैसे इन्हें नैतिक कारणों से जानबूझकर सीमित किया गया है। हर कोई ऐसा नहीं करता, और वैसे भी ऐसा नहीं है।

छोटी-छोटी बातें जो अंतर पैदा करती हैं

संकेत कुछ प्रतीत होने वाले सांसारिक लेकिन अविश्वसनीय रूप से खुलासा करने वाले विवरण भी प्रकट करते हैं। उदाहरण के लिए, क्लाउड को शिक्षित किया गया था अनावश्यक पूरक कथनों या वाक्यांशों जैसे "बेशक!", "स्पष्ट रूप से!", "बिल्कुल!" का उपयोग करने से बचें। विशेष रूप से, उन्हें "बेशक" शब्द के साथ अपने उत्तर शुरू करने से स्पष्ट रूप से प्रतिबंधित किया गया था।

ये छोटे-छोटे स्पर्श हमें दिखाते हैं कि क्लाउड के साथ बातचीत को यथासंभव स्वाभाविक और कम चिड़चिड़ा बनाने में कितना काम करना पड़ता है। यह कुछ-कुछ किसी अभिनेता के चरित्र में पूरी तरह ढलने के प्रयासों को देखने जैसा है।

इस सब का क्या मतलब है?

इन संकेतों को प्रकाशित करना एआई के क्षेत्र में अधिक समझ और पारदर्शिता की दिशा में एक महत्वपूर्ण कदम है। यह हमें बेहतर ढंग से समझने की अनुमति देता है कि ये प्रणालियाँ कैसे काम करती हैं और कौन से नैतिक और परिचालन सिद्धांत उन्हें निर्देशित करते हैं।

बेशक, द्वेष के संकेत के साथ मैं कहना चाहता हूं कि ये संकेत केवल अंतिम उपयोगकर्ताओं के लिए लक्षित उत्पादों को संदर्भित करते हैं। एपीआई के माध्यम से पहुंच योग्य क्लाउड मॉडल में अलग-अलग कॉन्फ़िगरेशन हो सकते हैं। और फिर ये संकेत क्लाउड की कार्यप्रणाली का केवल एक हिस्सा दर्शाते हैं। इसके प्रशिक्षण और संचालन के तकनीकी विवरण के बारे में अभी भी बहुत कुछ हम नहीं जानते हैं।

एआई में पारदर्शिता का भविष्य

एंथ्रोपिक का यह कदम एआई उद्योग में पारदर्शिता के लिए एक नया मानक स्थापित कर सकता है। यह अन्य कंपनियों को भी ऐसा करने के लिए प्रेरित कर सकता है, जिससे कृत्रिम बुद्धिमत्ता के लाभों और जोखिमों के बारे में अधिक खुलापन और अधिक जानकारीपूर्ण बहस हो सकेगी।

दूसरी ओर, यह पारदर्शिता दूसरों के लिए इन प्रणालियों की नकल करना या उनमें हेरफेर करना भी आसान बना सकती है। यह खुलेपन और बौद्धिक संपदा संरक्षण के बीच एक नाजुक संतुलन है।

बहरहाल, इन संकेतों को पोस्ट करने से हमें एआई की दुनिया की एक आकर्षक झलक मिलती है। यह हमें याद दिलाता है कि चैटबॉट से मिलने वाली हर जादुई प्रतिक्रिया के पीछे नियमों, निर्देशों और नैतिक विचारों की एक जटिल प्रणाली होती है। और शायद, यह हमें वास्तव में उपयोगी और जिम्मेदार कृत्रिम बुद्धिमत्ता बनाने की जटिलता और चुनौतियों की और भी अधिक सराहना करने के लिए प्रेरित करता है। अमोदेई को शाबाश!