स्पैम, एआई सुनामी पहले से ही हमारे सभी संदेश बोर्डों को प्रभावित कर चुकी है। अब क्या?

हमारे सोशल मीडिया फ़ीड में एक अवांछित नया किरायेदार है: एआई-जनित स्पैम। तेजी से परिष्कृत एल्गोरिदम द्वारा बनाई गई विचित्र, भावनात्मक रूप से हेरफेर करने वाली या खुले तौर पर धोखाधड़ी वाली पोस्ट, फेसबुक जैसे प्लेटफार्मों पर फैल रही हैं। थ्रेड्स और लिंक्डइन. और समस्या इस तथ्य से बढ़ जाती है कि अक्सर सामाजिक नेटवर्क स्वयं ही सक्रिय रूप से इस सामग्री को बढ़ावा देते हैं, जिससे उपयोगकर्ताओं के लिए गलत सूचना और निराशा का दुष्चक्र शुरू हो जाता है।

मेटा और कंपनी ने जवाबी उपायों की घोषणा की (जैसे एआई पोस्ट को लेबल करना), लेकिन क्या यह हाई-टेक स्पैम की इस नई लहर को रोकने के लिए पर्याप्त है?

एआई स्पैम का विचित्र चेहरा

कई उपयोगकर्ताओं के लिए, एआई स्पैम के साथ उनकी पहली मुठभेड़ अवास्तविक है। "गीत के बोल हैं 'अपनी आंखें 70% बंद करो और जादू देखो'। और बहुत अधिक तिरछेपन के बिना भी, आप विकृत सब्जियों, एक ट्रैक्टर और एक छोटी लड़की से बनी यीशु की छवि को स्पष्ट रूप से देख सकते हैं।

और क्या हम समान कैप्शन वाली हजारों समान छवियों के बारे में बात करना चाहते हैं? भावनात्मक रूप से जोड़-तोड़ करने वाली पोस्ट में विकलांग माताओं और बच्चों को मिट्टी में प्लास्टिक की बोतलों से असंभावित और जटिल संरचनाएं बनाते हुए दर्शाया गया है? हम पहले से ही मानसिक अस्पताल में हैं। और वे इसे हमें पहले कोर्स के रूप में भी पेश करते हैं।

यदि एल्गोरिथम स्पैम को बढ़ावा देता है

फेसबुक पर एआई स्पैम की समस्या इस तथ्य से और भी बदतर हो गई है कि, कई मामलों में, यह प्लेटफ़ॉर्म का अपना एल्गोरिदम प्रतीत होता है जो इन पोस्टों को दृश्यता देता है।

जॉर्जटाउन और स्टैनफोर्ड विश्वविद्यालयों के शोधकर्ताओं द्वारा किए गए एक अध्ययन में 100 से अधिक फेसबुक पेजों का विश्लेषण किया गया जो नियमित रूप से एआई सामग्री पोस्ट करते हैं, कभी-कभी दिन में दर्जनों बार। परिणाम? वे चिंताजनक हैं: इनमें से कई पेज घोटालों और स्पैम में लगे हुए हैं, और फेसबुक सक्रिय रूप से अनुशंसा कर रहा है इस सामग्री का कुछ भाग उपयोगकर्ताओं के फ़ीड में है.

हमने कल्पनीय हर चीज की एआई-जनरेटेड छवियां देखी हैं, लॉग हाउस से लेकर जन्मदिन के केक वाली दादी-नानी तक, उत्कृष्ट पेंटिंग वाले बच्चों तक जो वास्तव में वास्तविक नहीं हो सकते हैं।

जोश गोल्डस्टीन, जॉर्जटाउन शोधकर्ता और अध्ययन के सह-लेखक।

एआई स्पैम का स्याह पक्ष

गोल्डस्टीन और उनके सह-लेखक के विश्लेषण से यह पता चला इनमें से कुछ पेज वे क्लासिक स्पैमर से हैं, जो उन वेबसाइटों के लिंक पोस्ट करते हैं जहां वे विज्ञापन राजस्व एकत्र कर सकते हैं। दूसरे घोटालेबाज हैं जो एआई-जनरेटेड उत्पादों का विज्ञापन करते हैं जो वास्तव में मौजूद नहीं लगते हैं। हालाँकि अन्य, और यह आवश्यक रूप से अच्छी खबर नहीं है, उनके पास स्पष्ट वित्तीय प्रेरणा नहीं है। वे बस अज्ञात उद्देश्यों के लिए दर्शकों को एकत्रित करते प्रतीत होते हैं।

गोल्डस्टीन ने अनुमान लगाया, "यह दुर्भावनापूर्ण पेज हो सकते हैं जो दर्शकों का निर्माण करने की कोशिश कर रहे हैं और फिर सामान बेचने, विज्ञापन से भरी वेबसाइटों से लिंक करने या यहां तक ​​कि विषय को पूरी तरह से राजनीतिक में बदलने की कोशिश कर रहे हैं।" "लेकिन मुझे संदेह है कि अधिक संभावना है, इनमें से कई पृष्ठ केवल निर्माता हैं जिन्होंने महसूस किया है कि दर्शकों का जुड़ाव हासिल करने के लिए यह एक उपयोगी रणनीति है।"

सोशल प्लेटफॉर्म कार्रवाई कर रहे हैं. करीब करीब।

हम यह जानते थे, हम लगभग 3 वर्षों से खुद से कह रहे हैं: एआई के अनुचित और हल्के उपयोग से उत्पन्न खराब सामग्री की सुनामी इसने हमें अभिभूत कर दिया होगा। और अब हम क्या करें?

एआई स्पैम की लहर का सामना करते हुए, सोशल प्लेटफॉर्म हमें इस पर रोक लगाने के लिए कह रहे हैं। फेसबुक ने घोषणा की है कि वह कृत्रिम बुद्धिमत्ता टूल द्वारा बनाई गई कुछ सामग्री को लेबल करना शुरू कर रहा है। पिछले हफ्ते, टिकटॉक ने अपने प्लेटफॉर्म पर कुछ एआई-जनरेटेड पोस्ट पर समान लेबल लगाना शुरू किया।

फेसबुक और इंस्टाग्राम की मूल कंपनी मेटा ने एक बयान में कहा:

हम स्पैमयुक्त या सनसनीखेज सामग्री के प्रसार को कम करने के लिए काम करते हैं क्योंकि हम चाहते हैं कि उपयोगकर्ताओं को अच्छा अनुभव मिले, यही कारण है कि हम उन्हें अपने फ़ीड में जो देखते हैं उस पर नियंत्रण देते हैं।

क्या आपको यकीन है?

स्पैम एआई, नकारात्मक प्रभाव प्रबल है

कई उपयोगकर्ताओं के लिए, सोशल मीडिया द्वारा घोषित उपाय पर्याप्त नहीं हो सकते हैं। मेरे ऐसे मित्र हैं जो एक बुजुर्ग माता-पिता को लकड़ी के काम और अन्य घरेलू सजावट की वस्तुओं को खरीदने से हतोत्साहित करने के बारे में बात करते हैं जो उन्होंने फेसबुक पर देखी थीं, जो स्पष्ट रूप से नकली थीं।

कुछ उपयोगकर्ता लगातार एआई स्पैम छवियों की बमबारी से हताशा के कारण मंच छोड़ने पर भी विचार कर रहे हैं।

झुंझलाहट के अलावा (जो मुझे इस हद तक प्रभावित करता है कि मेरे रास्ते में आने वाली किसी भी चीज़ पर प्रतिबंध लगा देता है), मैं आपके साथ हर जगह कृत्रिम छवियों के प्रसार के व्यापक निहितार्थों पर चर्चा करना चाहूंगा। मेरा विचार है कि अल्पावधि में वे लोगों के अविश्वास को और मजबूत कर देंगे। और मध्यम अवधि में वे आपके लिए असली और नकली में अंतर करना और भी कठिन बना देंगे। और दुनिया में, इस ऐतिहासिक काल में, वास्तविकता का एहसास खोना बहुत खतरनाक है।

भविष्य अज्ञात है

क्या सामाजिक बातचीत के उस्तादों द्वारा उठाए गए जवाबी उपाय पर्याप्त होंगे? एआई-जनित सामग्री को लेबल करना सही दिशा में एक कदम हो सकता है, लेकिन यह हमारे फ़ीड पर आक्रमण करने वाले नकली और भ्रामक पोस्ट के प्रवाह को रोकने के लिए पर्याप्त नहीं होगा।

और अब कोई भी जिस आसानी से एआई सामग्री बना सकता है, इस प्रवृत्ति को एक स्थानिक समस्या में बदलने का जोखिम है। संक्षेप में, सोशल मीडिया पर एआई स्पैम का बढ़ना एक बड़ी समस्या का लक्षण है: ऐसी दुनिया में नेविगेट करने में कठिनाई जहां तथ्य और कल्पना के बीच की रेखा तेजी से धुंधली होती जा रही है।

फिर भी हमें महान प्रयासों की कीमत पर भी खुद को उन्मुख करने की आवश्यकता है: क्योंकि झूठ के इस समुद्र में खो जाने में एक पल लगता है।