हाल ही में सोशल मीडिया पर आए Deepfake फोटोज और वीडियो ने लोगों की चिंता बढ़ा दी हैं। किसी भी फोटो या वीडियो में छेड़छाड़ से संबंधित Deepfake और आर्टिफिशियल इंटेलीजेंस (Artificial Intelligence) के जरिए गलत सूचना के शेयरिंग को लेकर बढ़ती चिंताओं के बीच केंद्र सरकार ने सूचना प्रौद्योगिकी नियमों का पालन करने के लिए कहां हैं। सरकार ने भी इसको लेकर नाराजगी जताई है। मिनिस्ट्री ऑफ इलेक्ट्रॉनिक्स एंड इन्फॉर्मेशन टेक्नोलॉजी ने सोशल मीडिया प्लेटफॉर्म के लिए एडवाइजरी जारी की है। एक आधिकारिक विज्ञप्ति के अनुसार, Deepfake और AI द्वारा संचालित गलत सूचना के बारे में बढ़ती चिंताओं के बीच सरकार ने IT नियमों का पालन करने के लिए सभी प्लेटफार्मों को एक सलाह जारी की है।
क्या है Deepfake वीडियो?
Deepfake वीडियो में एक खास तरह की टेक्नोलॉजी का प्रयोग करके वीडियो में दिख रहे शख्स का चेहरा किसी और चेहरे से बदल दिया जाता है। इसमें किसी व्यक्ति के चेहरे को किसी भी इस तरह इस्तेमाल किया जाता है।
फेक वीडियोज पर रोक
सरकार ने फेसबुक, इंस्टाग्राम और X जैसे सोशल मीडिया प्लेटफॉर्म के लिए जारी एडवाइजरी में कहा कि, मौजूदा IT नियमों के तहत Deepfake वीडियोज के खिलाफ कार्रवाई करनी चाहिए। इस एडवाइजरी में कहा गया है कि, अगर प्लेटफॉर्म्स ऐसे फेक वीडियोज को समय रहते नहीं रोकाता है तो उनके खिलाफ कड़ी कानूनी कार्रवाई की जाएगी।
इसमें कहा गया है कि, “इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने मौजूदा IT नियमों का अनुपालन सुनिश्चित करने के लिए सभी मध्यस्थों को एक सलाह जारी की है।” यह सलाह IT राज्य मंत्री राजीव चन्द्रशेखर द्वारा मध्यस्थों के साथ की गई चर्चा का परिणाम है।
सोशल मीडिया पर जारी हुआ निर्देश
मंत्रालय ने कहा है कि, IT कानून के नियम 3 (1) B (5) के तहत किसी भी प्रकार की गलत या भ्रामक सूचना को सोशल मीडिया के प्लेटफॉर्म पर नहीं डाला जा सकता है। यूजर्स को गलत वीडियो, मैसेज या कंटेंट डालने से रोकने का काम सोशल मीडिया प्लेटफॉर्म का है ताकि इससे अन्य यूजर्स को नुकसान नहीं हो। प्लेटफॉर्म यूजर्स को यह भी बताएगा कि, IT कानून के नियम का पालन नहीं करने पर उनके खिलाफ भारतीय दंड संहिता के तहत कार्रवाई की जा सकती है। IT नियम के तहत अगर प्लेटफॉर्म पर कोई गलत या भ्रामक सूचना का प्रसारण हो रहा है तो उस कंटेंट को तुरंत हटाने की जिम्मेदारी इंटरमीडिएरिज या प्लेटफॉर्म की है। इंटरमीडिएरिज को ऐसे उपाए भी करने होंगे ताकि यूजर्स गलत कंटेंट प्लेटफार्म पर नहीं डाल सके और डालता है तो तुरंत उसकी जानकारी मिल जाए।
इसके अलावा, प्लेटफॉर्म को उपयोगकर्ताओं को उन गतिविधियों में शामिल होने से रोकने के लिए उचित प्रयास करने की आवश्यकता होती है जिनमें 11 सूचीबद्ध उपयोगकर्ता को नुकसान पहुंचाने या डिजिटल मध्यस्थों पर निषिद्ध सामग्री साझा करने से जुड़े होते हैं। संचार में स्पष्टता को उपयोगकर्ता जागरूकता को बढ़ावा देने और एक सुरक्षित और अनुपालन ऑनलाइन स्थान बनाए रखने में प्लेटफार्मों की कानूनी जिम्मेदारियों की समझ को महत्वपूर्ण माना जाता है।
मांगी गई रिपोर्ट
इसके अलावा IT मंत्रालय ने सभी सोशल मीडिया कंपनियों से 7 दिन के भीतर ‘एक्शन टेकन कम स्टेटस रिपोर्ट’ मांगी है। 26 दिसंबर को भेजी गई सलाह में सोशल मीडिया कंपनियों और इंटरनेट मध्यस्थों से बाल यौन शोषण सामग्री, अश्लील सामग्री की होस्टिंग, शेयरिंग और अवैध ऋण ऐप्स को अनुमति देने पर प्रतिबंध लगाने वाले नियमो का पालन करने के लिए कहा गया है।
