एएए खुशी एल्गोरिदम की तलाश में है

यह पोस्ट लिंक्डइन न्यूज़लेटर "पेरिस्कोपियो" का हिस्सा है, जो हर हफ्ते फ़्यूचूरो प्रोसिमो विषयों पर चर्चा करता है, और लिंक्डइन प्लेटफ़ॉर्म पर अग्रिम रूप से प्रकाशित किया जाता है। यदि आप इसकी सदस्यता लेना और इसका पूर्वावलोकन करना चाहते हैं, आपको यहां सब कुछ मिलता है.

एल्गोरिदम तेजी से हमारे जीवन को नियंत्रित कर रहे हैं, हमारे विकल्पों का मार्गदर्शन कर रहे हैं और हमारे दिन भर रहे हैं। एल्गोरिदम एक "छिपी हुई" और सर्वव्यापी प्रणाली है जो अधिकांश भाग के लिए, हमारी सामान्य डिजिटल वास्तविकताओं पर हावी होती है।

जब आप आईट्यून्स पर संगीत सुनते हैं, यूट्यूब पर वीडियो चलाते हैं, अमेज़ॅन पर अगले जन्मदिन का उपहार खोजते हैं, नेटफ्लिक्स पर अपना पसंदीदा शो देखते हैं या यहां तक ​​कि Google पर समाचार खोजते हैं, तो यह एक एल्गोरिदम है जो आपके लिए उपलब्ध विकल्पों को तय करता है और, परोक्ष रूप से, आप अंततः क्या उपभोग करेंगे।

एल्गोरिदम वास्तविक "फ़नल" का निर्माण करते हैं जिसमें वास्तविकता की हमारी दृष्टि गिरती है और एक विशिष्ट दिशा में समाप्त होती है। यह अच्छा है जब Spotify को एक आकर्षक गाना मिलता है, लेकिन यह भयानक होता है जब एक सामाजिक मंच एक स्वतंत्र चुनाव के परिणाम को प्रभावित करने का प्रबंधन करता है।

यह प्रभाव डालने की एक विशाल क्षमता है, जिसे सावधानीपूर्वक योजनाबद्ध किया गया है और दुनिया में बहुत कम संस्थाओं द्वारा धारण किया गया है: बड़ी प्रौद्योगिकी कंपनियां।

क्या किसी एल्गोरिदम को इस तरह काम करना होगा?

एल्गोरिथम के माध्यम से हमारे लक्ष्यों को प्राप्त करने में कुछ फायदेमंद है। यह आपके बगल में किसी ऐसे व्यक्ति की तरह है जो "हमें तुरंत समझता है" और हमेशा हमें बताता है, या हमें सलाह देता है, जो हम सुनना चाहते हैं। यही कारण है कि मनुष्य हमेशा अधिक चाहता है। और कंपनियाँ उन्हें काम पर रखती हैं क्योंकि वे उन्हें अधिक मुनाफ़े की गारंटी देती हैं। लेकिन क्या यह केवल ऐसे ही काम कर सकता है? यह सही है?

सवाल पहले ही सामने आ चुका है, हम खुद से बार-बार पूछते हैं और यहां तक ​​कि इस ब्लॉग के पाठक भी इससे कतराते नहीं हैं: हम कृत्रिम बुद्धिमत्ता एल्गोरिदम के नकारात्मक प्रभावों से अपना बचाव कैसे कर सकते हैं?

हम आपके सोशल मीडिया के उपयोग को सीमित कर सकते हैं, या खाते भी हटा सकते हैं। हम जितना संभव हो सके, या महीने में कम से कम कुछ दिन ऑफ़लाइन रह सकते हैं। फर्जी खबरों और झूठ से प्रभावित होने से बचने के लिए हम अखबारों में गहन शोध कर सकते हैं। बेशक, हम बलिदानों की कीमत पर ऐसा कर सकते हैं, लेकिन हम कर सकते हैं। लेकिन इसे केवल हम पर ही निर्भर क्यों रहना पड़ता है?

हमें सब कुछ स्वयं ही क्यों करना पड़ता है?

आवश्यक रूप से कुछ ऐसा होना चाहिए जो प्रौद्योगिकी कंपनियों को स्वयं करना चाहिए, स्थिति को सुधारने के लिए करने के लिए मजबूर होना चाहिए। हमें पूरी तस्वीर पर सवाल उठाना होगा, और तस्वीर यह है: एक एल्गोरिदम आंतरिक रूप से हमारे समय और ध्यान पर कब्जा करने, हमारी मनोवैज्ञानिक कमजोरियों का फायदा उठाने के लिए डिज़ाइन किया गया है। बिंदु। यही है, यही सत्य है.

और यह एक गंभीर बात है, खासकर नई पीढ़ियों के लिए जो सोशल मीडिया पर लगातार बहस और "लाइक" की छोटी-मोटी संतुष्टि के साथ बड़ी हुई हैं। और एक-दूसरे को सर्फिंग से परहेज करने, या अलग-अलग आदतें रखने, या अन्य प्रयास करने की सलाह देना, निष्क्रिय रूप से स्वीकार करना है कि तकनीकी कंपनियां एल्गोरिदम का अधिक से अधिक, और इससे भी बदतर शोषण करना जारी रखेंगी।

खुद से पूछने का असली सवाल दूसरा है। सवाल यह है: एक एल्गोरिदम को भलाई के बजाय जुड़ाव के लिए अनुकूलित क्यों किया जाता है? और इस स्थिति को बदलने के लिए क्या करना होगा?

ख़ुशी एल्गोरिदम की तलाश है

थोड़े से काम से, एल्गोरिदम को हमारे नाजुक मनोविज्ञान का शोषण करने के बजाय उसकी रक्षा करने और उसे बढ़ाने के लिए संशोधित किया जा सकता है। बातचीत के बजाय कल्याण को बेहतर बनाने के लिए एक एल्गोरिदम को प्रशिक्षित किया जाना चाहिए।

कल्पना करने का प्रयास करें कि चीज़ें कैसे सुधरेंगी।

स्पष्टतः बिग टेक इसके बारे में सोचता भी नहीं है। फेसबुक के पूर्व अध्यक्ष सीन पार्कर, जिन्होंने इस सामाजिक दिग्गज का जन्म देखा, उन्होंने कुछ समय पहले कहा था प्लेटफ़ॉर्म का मुख्य लक्ष्य यह था कि उपयोगकर्ताओं के समय और ध्यान का अधिकतम लाभ कैसे उठाया जाए।

हाँ आप जानते हैं। लक्ष्य लाभ है. और मुद्रा पर हमारा ध्यान है। परिणाम? पृष्ठभूमि में। चाहे वे जानते हों कि वे क्या कर रहे हैं, या वे तब तक बेलगाम सवारी कर रहे हैं जब तक कि वे चरम सीमा तक नहीं पहुंच जाते, तकनीकी कंपनियां हम पर कहर बरपा रही हैं, और वे जिम्मेदार हैं।

एआई नैतिकता का महत्व

बेशक, कुछ (स्पष्ट) अच्छी खबर है: एआई नैतिकता और ओपन सोर्स सहयोगी पहल के आगमन ने इन कंपनियों पर कुछ दबाव डाला है। अब वे अपने प्लेटफ़ॉर्म को बेहतर बनाने के लिए प्रतिबद्धता दिखाने के लिए हर संभव प्रयास करते हैं। Google, Facebook, Microsoft और अन्य ने कई सामाजिक वैज्ञानिकों को काम पर रखा है: लक्ष्य? उनकी तकनीकों को अधिक मानवीय बनाएं।

एक स्पष्ट रूप से कठिन कार्य, जिसमें शुरुआत से ही बाधाओं का सामना करना पड़ता है: हम सभी को याद है टिमनीत गबरू, नैतिकता विशेषज्ञ को Google ने 2020 में अपनी आर्टिफिशियल इंटेलिजेंस के 'नस्लवाद' को कटघरे में खड़ा करने के लिए निकाल दिया था। यह इस प्रकार की एकमात्र या अंतिम बर्खास्तगी नहीं थी। उन्होंने 2021 में इसका पालन किया मार्गरेट मिशेल, उसी Google एथिक्स टीम से।

फिर भी, इन विशेषज्ञों को वह काम करने के लिए निकाल दिया जाता है जिसके लिए उन्हें काम पर रखा गया था: प्रौद्योगिकी के संभावित जोखिमों का विश्लेषण करना। दूसरे शब्दों में, नैतिकतावादियों को काम पर रखना तब तक ठीक है, जब तक वे कंपनी की प्रमुख योजनाओं में हस्तक्षेप नहीं करते।

यदि पेशेवर अपना काम करने में असमर्थ हैं, यानी जिन कंपनियों के लिए वे काम करते हैं, उन्हें जवाबदेह बनाने में असमर्थ हैं तो एआई नैतिकता एक अस्थिर व्यावसायिक अभ्यास होगी।

लोगों को लाभ से पहले रखना

पिछले दो वर्षों में इन विकल्पों के कारण इन कंपनियों की प्रतिष्ठा और सार्वजनिक छवि में भारी गिरावट आई है। और अधिक से अधिक शोधकर्ता इन दिग्गजों के आर्थिक उद्देश्यों को प्रस्तुत किए बिना प्रौद्योगिकी की नैतिकता पर काम जारी रखने के लिए एक साथ आने की कोशिश कर रहे हैं।

और शायद यह सर्वोत्तम के लिए है: प्रौद्योगिकी कंपनियां वास्तव में अपनी नैतिक टीमों की बात सुनने की संभावना नहीं रखती हैं यदि उनकी समस्या पूरी तरह से आर्थिक प्रकृति की है। यदि नैतिकता का परिचय देने से उनका मुनाफ़ा कम नहीं होता है, तो वे ऐसा करेंगे: यदि वे ऐसा नहीं करते हैं, तो वे इन टीमों को काम करने से रोक देंगे।

इस कारण टिमनिट गेब्रु ने स्वयं इसकी स्थापना की वितरित आर्टिफिशियल इंटेलिजेंस अनुसंधान संस्थान (डीएआईआर) और मार्गरेट मिशेल एक शोध और मुख्य नीतिशास्त्री के रूप में काम करती हैं गले लगना . 

यदि आंतरिक नैतिकता टीमें वास्तविक कार्य नहीं कर सकती हैं (और वे नहीं कर सकती हैं, यह मुझे स्पष्ट लगता है), तो समाधान को बाहरी रूप से खोजा जाना बेहतर है।

मुक्ति सेना

जैसा कि उल्लेख किया गया है, हम कृत्रिम बुद्धिमत्ता के क्षेत्र में अधिक से अधिक प्रयास देख रहे हैं, लेकिन बड़ी तकनीकी कंपनियों के बाहर। ऐसे विषय हैं जो "एल्गोरिदम डोमिनोज़" के भाग्य को उलटने के लिए सामूहिक रूप से और व्यक्तिगत रूप से काम कर रहे हैं: उपरोक्त डीएआईआर और हगिंग फेस के अलावा भी हैं बिग साइंस, एलेउथेरे e मॉन्ट्रियल एआई एथिक्स इंस्टीट्यूट , दूसरों के बीच में। इटली में हमारे पास है आर्टिफिशियल इंटेलिजेंस की नैतिकता के लिए इटालियन सोसायटी।

शायद अब समय आ गया है कि जिनके पास वास्तविक राजनीतिक ताकत और ताकत है वे उन समाजों की निगरानी में अधिक सक्रिय भूमिका निभाएं जिनके हाथों में हमारा भविष्य है।

मनुष्य के चारों ओर निर्मित एक एल्गोरिदम

इस संबंध में, यूनेस्को ने एक विकसित किया है सिफ़ारिशों की श्रृंखला यह सुनिश्चित करने के लिए कि प्रत्येक एआई एल्गोरिदम मानव-केंद्रित है।

दस्तावेज़ में लिखा है, "हमें यह सुनिश्चित करने के लिए अंतर्राष्ट्रीय और राष्ट्रीय नियम और ढाँचे बनाने चाहिए कि ये नई प्रौद्योगिकियाँ समग्र रूप से मानवता को लाभान्वित करें।"

"यह एआई के लिए लोगों की सेवा करने का समय है, न कि इसके विपरीत"

“एआई पहले से ही हमारे जीवन को प्रभावित करता है। इस क्षेत्र में कुछ विधायी खामियाँ हैं जिन्हें तुरंत संबोधित करने की आवश्यकता है। पहला कदम इस बात पर सहमत होना है कि किन मूल्यों की रक्षा की जानी चाहिए और कैसे नियमों का सम्मान किया जाना चाहिए। कई रूपरेखाएँ और दिशानिर्देश मौजूद हैं, लेकिन उन्हें असमान रूप से लागू किया जाता है और कोई भी वास्तव में व्यापक नहीं है। और चूँकि AI वैश्विक है, हमें भी वैश्विक होना चाहिए।”

विश्व के प्रति प्रतिबद्धता

यूनेस्को संधि को सिर्फ 7 महीने पहले, 24 नवंबर, 2021 को मंजूरी दी गई थी। यह सुपर-शक्तिशाली प्रौद्योगिकियों के साथ कानूनी सेटिंग्स में चल रहे व्यवसायों को नियंत्रित करने के लिए एक महत्वपूर्ण पहला कदम है।

यहां तक ​​कि चीन में भी लोगों को एल्गोरिदम की शक्ति के लिए जिम्मेदार बनाने के लिए अभूतपूर्व विनियमन का रास्ता खोल दिया गया है। 1 मार्च को, चीनी सरकार ने एक कानून सक्रिय किया जो उपयोगकर्ताओं को तकनीकी कंपनियों पर निर्णय लेने की शक्ति देने के अन्य उपायों के साथ-साथ एल्गोरिदम सिफारिशों को पूरी तरह से बंद करने की अनुमति देगा।

तथ्य यह है कि एआई की नैतिकता ने वैश्विक नियामक निकायों का ध्यान आकर्षित किया है, जिससे पता चलता है कि यह व्यक्तिगत और सामूहिक कल्याण के लिए कितना महत्वपूर्ण है। क्या हम एक "बीमार" एल्गोरिदम को बदलने की खोज की शुरुआत में हैं जो हमें एक कल्याण एल्गोरिदम में बीमार बनाता है?

मैं नहीं कह सकता. लेकिन हमें हर कीमत पर प्रयास करना चाहिए।