जबकि एससी ने स्वीकार किया कि यह एक “गंभीर मुद्दा” है, बेंच ने बताया कि ऐसे कई मामले पहले से ही एचसी द्वारा सुना जा रहे हैं
PIL ने SC से आग्रह किया कि वह डीपफेक के मुद्दे से निपटने के लिए एक कानूनी ढांचे का मसौदा तैयार करने के लिए एक अदालत द्वारा नियुक्त विशेषज्ञ पैनल स्थापित करें
कर्नल कुरैशी, भारतीय सेना में एक अधिकारी, टीम का एक हिस्सा था जिसने नियमित रूप से ऑपरेशन सिंदूर के दौरान मीडिया को संबोधित किया था
सुप्रीम कोर्ट ने कथित तौर पर एक पब्लिक इंटरेस्ट लिटिगेशन (पीएलआई) को खारिज कर दिया है, जिसने कर्नल सोफिया कुरैशी के एआई-जनित डीपफेक वीडियो पर अंकुश लगाने के लिए अदालत के हस्तक्षेप की मांग की है।
भारतीय सेना में एक अधिकारी कर्नल कुरैशी, टीम का एक हिस्सा था, जिसने ऑपरेशन सिंदूर के दौरान नियमित रूप से मीडिया को संबोधित किया, पिछले महीने भीषण पाहलगाम आतंकवादी हमले के लिए भारत की प्रतिक्रिया।
पीआईएल ने एससी से आग्रह किया कि वह डीपफेक के मुद्दे से निपटने के लिए एक कानूनी ढांचे का मसौदा तैयार करने के लिए एक अदालत द्वारा नियुक्त विशेषज्ञ पैनल स्थापित करें।
जबकि जस्टिस सूर्य कांट और एन कोटिस्वर सिंह में शामिल बेंच ने स्वीकार किया कि यह एक “गंभीर मुद्दा” है, एससी ने बताया कि ऐसे कई मामले पहले से ही दिल्ली उच्च न्यायालय (एचसी) द्वारा सुने जा रहे हैं।
“हम यह नहीं कह रहे हैं कि यह एक गंभीर मुद्दा नहीं है, लेकिन दिल्ली उच्च न्यायालय कुछ वर्षों से इस मुद्दे पर सुन रहा है। यदि हम इस याचिका का मनोरंजन करते हैं, तो उच्च न्यायालय लंबित मामले को सुनना बंद कर देगा और वर्षों से इसकी सारी मेहनत व्यर्थ हो जाएगी। यह उचित होगा, यदि आप दिल्ली उच्च न्यायालय से संपर्क करते हैं,” लाइव कानून के रूप में उद्धृत किया गया था।
याचिकाकर्ता ने डीपफेक के दुरुपयोग को संबोधित करने के लिए कानूनी सुधारों का आह्वान किया, यह दावा करते हुए कि इस तरह की सिंथेटिक सामग्री किसी व्यक्ति की गरिमा को नुकसान पहुंचा सकती है और राष्ट्रीय सुरक्षा को खतरा दे सकती है। हालांकि, एससी ने पीआईएल को खारिज कर दिया और सुझाव दिया कि याचिकाकर्ता इसके बजाय दिल्ली एचसी से संपर्क करता है।
दीपफेक का उदय
डीपफेक शब्द की उत्पत्ति एक रेडिट उपयोगकर्ता “डीपफेक” से हुई, जिसने 2017 में वापस, पोर्नोग्राफिक वीडियो पर मशहूर हस्तियों के चेहरों को पेस्ट करने के लिए ऑफ-द-शेल्फ एआई टूल का उपयोग किया।
क्लाउड कम्प्यूटिंग का संशोधन, ओपन-सोर्स एआई तक पहुंच और विशाल डेटा और मीडिया की उपलब्धता ने आज डीपफेक की एक छतरी बनाई है-जिसमें वीडियो, ऑडियो और छवि-आधारित डीपफेक शामिल हैं।
सोशल मीडिया को कई प्रसिद्ध आंकड़ों की विशेषता वाले डीपफेक वीडियो से भर दिया गया है, जो भ्रामक और हानिकारक सामग्री बनाने में एआई के दुरुपयोग के बारे में एक ऑनलाइन बहस को बढ़ाते हैं।
देर से रतन टाटा, मुकेश अंबानी और नारायण मूर्ति से रशमिका मंडन्नानोरा फतेहि, सचिन तेंदुलकर और विराट कोहली, कई भारतीय व्यक्तित्व हाल के दिनों में डीपफेक वीडियो के शिकार हुए हैं।
पिछले साल, एनएसई के सीईओ आशीषकुमार चौहान और उनके बीएसई समकक्ष सुंदरमन राममूर्ति को दिखाया गया था स्टॉक सिफारिशें और निवेश सलाह डीपफेक वीडियो में।
यह ध्यान रखना उचित है कि यद्यपि इलेक्ट्रॉनिक्स और आईटी मंत्रालय (मेटी) ने अतीत में, डीपफेक पर सलाहकार जारी किया है, यह अभी तक एक समर्पित विनियमन के साथ आना बाकी है।
पिछले साल जनवरी में, यह बताया गया था कि मेटी आईटी नियमों में संशोधन करने पर विचार कर रही थी, 2021 को “स्पष्ट रूप से डीपफेक को परिभाषित करने और सभी बिचौलियों के लिए उन्हें मेजबानी नहीं करने के लिए उचित प्रयास करने के लिए इसे अनिवार्य बना दिया”।
इस साल मार्च में, आईटी मंत्रालय ने दिल्ली एचसी के समक्ष एक स्थिति रिपोर्ट प्रस्तुत की, जिसने डीपफेक के प्रबंधन और विनियमन के बारे में महत्वपूर्ण सिफारिशों को रेखांकित किया। रिपोर्ट में, उद्योग के हितधारकों ने डीपफेक के लिए एक मानक परिभाषा की कमी को बढ़ाया और “अनिवार्य अल सामग्री प्रकटीकरण” के आसपास विनियमन के लिए बुलाया। उन्होंने डीपफेक पर कोच को क्रैक करने के लिए अनिवार्य एआई लेबलिंग मानकों और शिकायत निवारण तंत्र की भी मांग की।
जबकि आईटी मंत्री अश्विनी वैष्णव और इसके लिए पूर्व राज्य मंत्री (एमओएस) राजीव चंद्रशेखर ने कहा था कि एआई कंपनियों और विशेषज्ञों के साथ कई बंद दरवाजों की बैठकें हुईं, जो कि डीपफेक पर कानून का मसौदा तैयार करने की आवश्यकता पर थे, फिर भी कुछ भी कंक्रीट नहीं आया है।
