नई दिल्ली,18 जनवरी। डीपफेक को लेकर सरकार नए नियम ला रही है। केंद्रीय मंत्री राजीव चंद्रशेखर ने मंगलवार को बताया कि 7-8 दिनों में नए आईटी नियम नोटिफाई किए जाएंगे। उन्होंने डीपफेक पर 2 बैठकें कीं। नए आईटी नियमों में गलत सूचना और डीपफेक को लेकर बड़े प्रावधान हैं। सभी के लिए इसका पालन करना अनिवार्य है, नहीं तो कार्रवाई की जाएगी।
इससे पहले 23 नवंबर को केंद्रीय मंत्री अश्विनी वैष्णव ने कहा था कि ‘डीपफेक लोकतंत्र के लिए एक नया खतरा बनकर उभरा है।’ केंद्रीय मंत्री ने बताया था कि सभी सोशल मीडिया प्लेटफॉर्म्स ने डीपफेक के खतरे और इसकी गंभीरता को स्वीकार किया है।
PM मोदी और सचिन तेंदुलकर का डीप फेक वीडियो बना था
प्रधानमंत्री नरेंद्र मोदी भी डीपफेक पर चिंता जता चुके हैं। उनका एक डीपफेक वीडियो आया था। वहीं हाल ही में पूर्व क्रिकेटर सचिन तेंदुलकर का एक डीप फेक वीडियो वायरल हुआ था। इसमें उन्हें ‘स्काईवर्ड एविएटर क्वेस्ट’ गेमिंग ऐप को प्रमोट करते दिखाया गया था। सचिन ने कहा था- यह वीडियो नकली है और धोखा देने के लिए बनाया गया है।
नवंबर में रश्मिका मंदाना का डीपफेक वीडियो वायरल हुआ था
पिछले साल नवंबर में रश्मिका मंदाना का एक डीपफेक वीडियो सोशल मीडिया पर वायरल हआ था, जिसमें AI टेक्नोलॉजी से एक इन्फ्लूएंसर के चेहरे पर बड़ी सफाई से रश्मिका का चेहरा मोर्फ किया गया था। सोशल मीडिया पर हजारों लोगों ने रश्मिका के इस फेक वीडियो को असली समझ लिया क्योंकि उसमें दिख रहे एक्सप्रेशन बिल्कुल रियल लग रहे थे।
हालांकि यह महिला रश्मिका नहीं बल्कि जारा पटेल नाम की एक लड़की थी, जिसके चेहरे को बदलकर रश्मिका का चेहरा लगा दिया गया था। ALT न्यूज के एक जर्नलिस्ट ने डीपफेक वीडियो वायरल होने के बाद इसका खुलासा किया था।
डीपफेक होता क्या है और कैसे बनाया जाता है?
डीपफेक शब्द पहली बार 2017 में यूज किया गया था। तब अमेरिका के सोशल न्यूज एग्रीगेटर Reddit पर डीपफेक आईडी से कई सेलिब्रिटीज के वीडियो पोस्ट किए गए थे। इसमें एक्ट्रेस एमा वॉटसन, गैल गैडोट, स्कारलेट जोहानसन के कई पोर्न वीडियो थे।
किसी रियल वीडियो, फोटो या ऑडियो में दूसरे के चेहरे, आवाज और एक्सप्रेशन को फिट कर देने को डीपफेक नाम दिया गया है। ये इतनी सफाई से होता है कि कोई भी यकीन कर ले। इसमें फेक भी असली जैसा लगता है।
इसमें मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस का सहारा लिया जाता है। इसमें वीडियो और ऑडियो को टेक्नोलॉजी और सॉफ्टवेयर की मदद से बनाया जाता है।
AI और साइबर एक्सपर्ट पुनीत पांडे बताते हैं कि अब रेडी टु यूज टेक्नोलॉजी और पैकेज उपलब्ध है। अब इसे कोई भी उपयोग कर सकता है। वर्तमान टेक्नोलॉजी में अब आवाज भी इम्प्रूव हो गई है। इसमें वॉयस क्लोनिंग बेहद खतरनाक हो गई है।
मोदी बोले- डीपफेक डिजिटल युग के लिए खतरनाक:एक वीडियो में मुझे गरबा गीत गाते दिखाया गया, ऐसे कई वीडियो मिल जाएंगे
प्रधानमंत्री नरेंद्र मोदी ने डीपफेक टेक्नोलॉजी को खतरनाक बताया। उन्होंने 17 नवंबर को कहा कि एक वीडियो में मुझे गरबा गीत गाते दिखाया गया है, ऐसे कई वीडियो ऑनलाइन पड़े हुए हैं। मोदी ने यह भी कहा कि डीपफेक डिजिटल युग के लिए एक खतरा है।
डीपफेक वीडियो वारयल होने के बाद रश्मिका ने लिखा, ‘ईमानदारी से कहूं तो ऐसा कुछ न केवल मेरे लिए, बल्कि हममें से हर एक के लिए बेहद डरावना है। अगर मेरे साथ ये तब हुआ होता, जब में स्कूल या कॉलेज में थी, तो मैं इससे निपटने का सोच भी नहीं सकती थी।’ डीप फेक क्या है, कैसे काम करता है और इससे निपटने के लिए कौन-से कानून हैं।