मैडलीन अपनी नर्सिंग इंटर्नशिप पूरी कर रही थी कि तभी एक ईमेल आया जिसका विषय था "शैक्षणिक अखंडता संबंधी चिंता"। अंदर, यह (झूठा) आरोप था कि उसने एक असाइनमेंट लिखने के लिए कृत्रिम बुद्धिमत्ता का इस्तेमाल किया था। उसने ऐसा कुछ नहीं किया था, लेकिन इससे कोई फर्क नहीं पड़ा। विश्वविद्यालय के पास एक और कृत्रिम बुद्धिमत्ता (एआई) द्वारा तैयार की गई रिपोर्ट थी, और वह काफी थी। छह महीने बाद, वह अभी भी वहाँ थी, यह बताते हुए कि क्यों, कौन जाने, शायद सिस्टम ने गलती कर दी थी।
इस बीच, उसके बायोडाटा में "परिणाम लंबित" बताए गए, और कोई भी अस्पताल उसे भर्ती नहीं कर रहा था। यह एकदम शॉर्ट सर्किट है: एक ऐसा एआई जो छात्रों पर एक अन्य एआई के आधार पर एआई का उपयोग करने का आरोप लगाया गया है जो ठीक से काम नहीं करता है। और इसके लिए लोग पैसे देते हैं, एल्गोरिदम नहीं। यह ब्लैक मिरर नहीं है, और मैंने इसे गढ़ा नहीं है: यह सच में हुआ था।
छह हज़ार मामले, नब्बे प्रतिशत ग़लत
एल 'ऑस्ट्रेलियाई कैथोलिक विश्वविद्यालय 2024 में कथित साहित्यिक चोरी के लगभग 6.000 मामले दर्ज किए गए। इनमें से 90% में कृत्रिम बुद्धिमत्ता शामिल थी। समस्या क्या है? उन छात्रों में से एक बड़ी संख्या ने कुछ भी गलत नहीं किया था। सभी झूठे आरोप। विश्वविद्यालय द्वारा इस्तेमाल किया गया डिटेक्टर, Turnitinउन्होंने बस यही तय कर लिया था कि ये ग्रंथ मानवीय दृष्टि से इतने अच्छे लिखे गए हैं कि वे मानवीय नहीं हो सकते। सिद्धांततः यह एक प्रशंसा थी। व्यवहारतः यह एक निंदा थी।
एसीयू की कुलपति तानिया ब्रॉडली ने एबीसी को बताया कि ये आँकड़े "काफी बढ़ा-चढ़ाकर बताए गए हैं।" उन्होंने शैक्षणिक कदाचार के मामलों में वृद्धि की बात स्वीकार की, लेकिन झूठे आरोपों के शिकार छात्रों की संख्या पर टिप्पणी करने से इनकार कर दिया। जांच के बाद सभी रेफरल्स में से एक-चौथाई को संग्रहीत कर लिया गया। लेकिन खोए हुए महीनों की भरपाई नहीं हो पाई।
मैडेलीन का मामला अकेला नहीं है। सैकड़ों छात्रों को संपूर्ण ब्राउज़िंग इतिहास, हस्तलिखित नोट्स और विस्तृत औचित्य प्रस्तुत करना पड़ा। उन चीज़ों पर जो उन्होंने नहीं कीं। जैसा कि एक आपातकालीन चिकित्सा छात्र ने एबीसी को बताया:
"वे पुलिस नहीं हैं। उनके पास आपकी ब्राउज़िंग हिस्ट्री मांगने के लिए वारंट नहीं हैं। लेकिन जब आपको कोई कोर्स दोबारा करने का ख़तरा होता है, तो वे अपनी मनमर्जी करते हैं।"
टर्निटिन, वह प्रणाली जो स्वीकार करती है कि वह अविश्वसनीय है
अपनी वेबसाइट पर, Turnitin चेतावनी देता है कि एआई डिटेक्टर का उपयोग "किसी छात्र के खिलाफ प्रतिकूल कार्रवाई के एकमात्र आधार के रूप में नहीं किया जाना चाहिए"कंपनी ने स्वीकार किया कि 20% या उससे अधिक AI सामग्री वाले दस्तावेजों के लिए उसके दस्तावेज़-स्तरीय झूठी सकारात्मक दर 1% से भी कम है। लेकिन सजा के स्तर पर यह दर बढ़कर 4% हो जाती है। और जब पाठ में मानव लेखन और ए.आई. का मिश्रण होता है, समस्याएँ बढ़ जाती हैं।
एक छात्र ने एबीसी को बताया: "यह एआई द्वारा एआई का पता लगाना है, और मेरा लगभग पूरा निबंध नीले रंग में हाइलाइट किया गया था: माना जाता है कि 84% निबंध एआई द्वारा लिखा गया था।" उनका पाठ पूरी तरह से मौलिक था। लेकिन एल्गोरिथ्म को इसकी परवाह नहीं थी।
वेंडरबिल्ट विश्वविद्यालय ने टर्निटिन के एआई डिटेक्टर को पूरी तरह से निष्क्रिय कर दिया है। इसकी विश्वसनीयता को लेकर चिंताओं का हवाला देते हुए, इसे 2023 तक के लिए स्थगित कर दिया गया। विश्वविद्यालय ने गणना की कि प्रतिवर्ष 75.000 शोधपत्र प्रस्तुत किए जाते हैं और "केवल" 1% की झूठी सकारात्मक दर के साथ, लगभग 750 छात्रों पर झूठा आरोप लगाया गया। बहुत ज्यादा।
समस्या केवल तकनीकी नहीं है
ऑस्ट्रेलियाई विश्वविद्यालय को इस प्रणाली की समस्याओं के बारे में एक वर्ष से अधिक समय से पता था, तथा मार्च 2025 में इसे बंद कर दिया गया। एबीसी द्वारा देखे गए आंतरिक दस्तावेज़ यह दर्शाएं कि कर्मचारियों को इसकी जानकारी थी“उपकरण की सीमित विश्वसनीयता” और “पूर्ण निर्माण से एआई-सहायता प्राप्त संपादन को अलग करने में असमर्थता”लेकिन झूठे आरोप महीनों तक जारी रहे।
यह घटना केवल ऑस्ट्रेलिया तक ही सीमित नहीं है। इटली में, कई विश्वविद्यालय उन्नत एंटी-प्लेगियरिज़्म सॉफ़्टवेयर लागू कर रहे हैंपडुआ विश्वविद्यालय ने एक नया, अधिक परिष्कृत एंटी-प्लेगियरिज़्म सर्वर शुरू किया है। वेरोना विश्वविद्यालय ने कृत्रिम रूप से उत्पन्न पाठों की पहचान करने में सक्षम सॉफ़्टवेयर को एकीकृत किया है। औरफेरारा विश्वविद्यालय उन्होंने यह पता लगाने के बाद कि कुछ छात्रों ने चैटजीपीटी का उपयोग किया था, एक पूरी साइकोबायोलॉजी परीक्षा रद्द कर दी। जिम्मेदार लोगों की पहचान किए बिना।
एक विवरण जिसे मैं नज़रअंदाज़ नहीं करूँगा: एक स्टैनफोर्ड अध्ययन शोध से पता चला है कि एआई डिटेक्टर गैर-देशी अंग्रेजी भाषियों के प्रति पूर्वाग्रह प्रदर्शित करते हैं। ये एल्गोरिदम विदेशी छात्रों द्वारा लिखे गए पाठों को अक्सर "एआई-जनित" के रूप में चिह्नित करते हैं। यह समस्या भेदभाव को और बढ़ा देती है।
साहित्यिक चोरी के झूठे आरोप: एक विरोधाभासी स्थिति
विश्वविद्यालय कृत्रिम बुद्धिमत्ता को अपना रहे हैं। उनकी प्रौद्योगिकी कंपनियों के साथ साझेदारी है शिक्षण में एआई उपकरणों को एकीकृत करने के लिए। फिर वे छात्रों पर उन्हीं उपकरणों का उपयोग करने का आरोप लगाते हैं। संदेश भ्रामक है: एआई भविष्य है, लेकिन अगर आप इसका उपयोग करते हैं, तो आप धोखेबाज़ हैं।
इस बीच में, एक इतालवी सर्वेक्षण के अनुसार2023 में अपनी अंतिम परीक्षा देने वाले 75% छात्रों ने अपनी परीक्षाओं की तैयारी के लिए एआई टूल्स का इस्तेमाल करने की बात स्वीकार की। 16 से 18 वर्ष की आयु के 18% छात्र नियमित कक्षा कार्य के दौरान एआई का उपयोग करते हैं। तकनीक उपलब्ध है, सुलभ है, और छात्र इसका उपयोग कर रहे हैं। उनसे ऐसा न करने की अपेक्षा करना अवास्तविक है।
अब क्या होता है
जैसा कि बताया गया है, "साहित्य-विरोधी" व्यवस्था को छोड़ दिया गया है, और निजी मुद्दों को धीरे-धीरे (और बहुत धीरे-धीरे) दबा दिया गया है। उदाहरण के लिए, मैडलीन के लिए, अब बहुत देर हो चुकी है। उसने छह महीने, एक नौकरी का अवसर और व्यवस्था पर अपना भरोसा खो दिया है। उसने एबीसी को बताया, "मुझे समझ नहीं आ रहा था कि क्या करूँ। वापस स्कूल जाऊँ? हार मान लूँ और अस्पताल में नर्सिंग के अलावा कुछ और करूँ?"
यह मामला दिखाता है कि क्या होता है जब हम निर्णय का अधिकार उन प्रणालियों को सौंप देते हैं जिन्हें हम पूरी तरह से नहीं समझते। एल्गोरिदम उपयोगी हो सकते हैं, लेकिन वे अचूक नहीं हैं। और जब वे ग़लती करते हैं, तो इसकी क़ीमत जनता को चुकानी पड़ती है। भ्रष्ट आंकड़ों या ग़लत गणनाओं से नहीं, बल्कि बर्बाद करियर और बर्बाद हुए सालों से। कुछ संदर्भों में कृत्रिम बुद्धिमत्ता मनुष्यों से अधिक दयालु प्रतीत हो सकती हैलेकिन जब झूठे आरोप लगाने की बात आती है, तो इससे केवल यह पता चलता है कि जीवन बदल देने वाले निर्णयों के लिए उस पर भरोसा करना कितना खतरनाक है।
हमेशा की तरह, समस्या एआई नहीं है। समस्या कुछ लोगों का उस पर अंध विश्वास है।
