डीप फेक नवीनतम और “गलत सूचना का अधिक खतरनाक और हानिकारक रूप” है, जिससे सोशल मीडिया प्लेटफार्मों द्वारा निपटने की आवश्यकता है।
डीपफेक एआई तकनीक चर्चा में क्यों?
केंद्रीय इलेक्ट्रॉनिक्स और प्रौद्योगिकी मंत्री, अश्विनी वैष्णव ने कहा कि डीप फेक नवीनतम और “गलत सूचना का अधिक खतरनाक और हानिकारक रूप” है, जिससे सोशल मीडिया प्लेटफार्मों को निपटने की आवश्यकता है। उन्होंने डिजिटल धोखाधड़ी से संबंधित सोशल मीडिया प्लेटफॉर्म के कानूनी दायित्वों और आईटी नियमों का भी हवाला दिया।
डीपफेक एआई टेक्नोलॉजी क्या है?
डीपफेक तकनीक, “डीप लर्निंग” और “फेक” का मिश्रण, ऑडियो और विजुअल सामग्री को बनाने या हेरफेर करने के लिए कृत्रिम बुद्धिमत्ता (एआई) और मशीन लर्निंग का उपयोग करती है, जो ठोस लेकिन फैब्रिकेटेड मीडिया का निर्माण करती है। शुरुआत में मनोरंजन के लिए पेश किए गए डीपफेक ने अपने संभावित दुरुपयोग के कारण चिंताएं उत्पन्न कर दी हैं, जिससे समाज के विभिन्न क्षेत्रों में महत्वपूर्ण चुनौतियां सामने आ रही हैं।
डीपफेक निर्माण के तंत्र की समझ
- डीप लर्निंग एल्गोरिदम: डीपफेक तकनीक यथार्थवादी मानव चेहरों, आवाजों और इशारों का विश्लेषण और संश्लेषण करने के लिए परिष्कृत डीप लर्निंग एल्गोरिदम, विशेष रूप से जेनरेटिव एडवरसैरियल नेटवर्क (जीएएन) और ऑटोएनकोडर मॉडल पर निर्भर करती है।
- डेटा प्रशिक्षण और मिमिक्री: छवियों और वीडियो के व्यापक डेटासेट का विश्लेषण करके, डीपफेक एल्गोरिदम चेहरे के भाव, भाषण पैटर्न और अन्य मानवीय विशेषताओं की नकल करना सीखते हैं, जिससे भ्रामक डिजिटल सामग्री का निर्माण संभव होता है।
डीपफेक टेक्नोलॉजी के अनुप्रयोग और निहितार्थ
- मनोरंजन उद्योग: डीपफेक का अनुप्रयोग मनोरंजन उद्योग में होता है, जो फिल्मों और वीडियो गेम में मनोरम दृश्य प्रभाव, डिजिटल डबल्स और यथार्थवादी चरित्र एनिमेशन को सक्षम बनाता है।
- सोशल मीडिया और गलत सूचना: सोशल मीडिया पर डीपफेक सामग्री का प्रसार गलत सूचना के प्रसार के बारे में चिंता उत्पन्न करता है, क्योंकि हेरफेर किए गए वीडियो और ऑडियो रिकॉर्डिंग जनता को धोखा दे सकते हैं और जनता की राय को प्रभावित कर सकते हैं।
- साइबर सुरक्षा खतरे: डीपफेक महत्वपूर्ण साइबर सुरक्षा खतरे उत्पन्न करते हैं, क्योंकि मैलिशियस एक्टर इस तकनीक का उपयोग पहचान की चोरी, प्रतिरूपण और धोखाधड़ी के लिए कर सकते हैं, जिससे व्यक्तियों और संगठनों की सुरक्षा और गोपनीयता खतरे में पड़ सकती है।
- राजनीतिक हेरफेर और दुष्प्रचार: राजनीतिक हेरफेर और दुष्प्रचार अभियानों के लिए डीपफेक तकनीक का संभावित उपयोग लोकतांत्रिक प्रक्रियाओं की अखंडता और राजनीतिक संस्थानों में जनता के विश्वास के बारे में चिंता उत्पन्न करता है।
डीपफेक टेक्नोलॉजी के नैतिक और कानूनी निहितार्थ
- गोपनीयता और सहमति: डीपफेक तकनीक गोपनीयता और सहमति के बारे में, विशेष रूप से व्यक्तियों की स्पष्ट अनुमति के बिना उनकी छवियों और आवाज़ों के उपयोग के संबंध में, गंभीर प्रश्न उठाती है।
- पहचान की चोरी और धोखाधड़ी: डीपफेक तकनीक का उपयोग करके नकली पहचान बनाकर पहचान की चोरी और धोखाधड़ी की संभावना के कारण ऐसी दुर्भावनापूर्ण गतिविधियों को रोकने और दंडित करने के लिए मजबूत कानूनी ढांचे की आवश्यकता होती है।
- पत्रकारिता और मीडिया की अखंडता पर प्रभाव: डीपफेक में पत्रकारिता सामग्री और मीडिया की अखंडता की विश्वसनीयता को कम करने की क्षमता है, जो दृश्य-श्रव्य साक्ष्य की प्रामाणिकता और विश्वसनीयता को चुनौती देता है।
- नियामक चुनौतियाँ: डीपफेक प्रौद्योगिकी के नैतिक और कानूनी निहितार्थों को संबोधित करने के लिए व्यापक नियामक ढांचे के निर्माण की आवश्यकता है जो व्यक्तियों के अधिकारों और सामाजिक अखंडता की सुरक्षा के साथ नवाचार और अभिव्यक्ति की स्वतंत्रता को संतुलित करता है।
जोखिमों को कम करना और जिम्मेदार उपयोग सुनिश्चित करना
- तकनीकी समाधान: उन्नत डीपफेक पहचान उपकरण और प्रमाणीकरण तंत्र विकसित करने से भ्रामक सामग्री के प्रसार से जुड़े जोखिमों को पहचानने और कम करने में सहायता मिल सकती है।
- सार्वजनिक जागरूकता और शिक्षा: डिजिटल साक्षरता को बढ़ावा देना और डीपफेक के अस्तित्व और संभावित प्रभाव के बारे में सार्वजनिक जागरूकता बढ़ाना एक सतर्क और सूचित समाज को बढ़ावा देने में महत्वपूर्ण कदम हैं।
- सहयोगात्मक प्रयास और नीति विकास: प्रौद्योगिकी कंपनियों, नीति निर्माताओं और अनुसंधान संस्थानों के बीच सहयोगात्मक प्रयास मजबूत नीतियों और विनियमों के विकास के लिए आवश्यक हैं जो तकनीकी नवाचार के लाभों को संरक्षित करते हुए डीपफेक प्रौद्योगिकी द्वारा उत्पन्न चुनौतियों का समाधान करते हैं।
डीपफेक पर भारत का वर्तमान रुख
- मौजूदा कानून: भारत पहले से मौजूद कानूनों पर निर्भर करता है, जैसे सूचना प्रौद्योगिकी अधिनियम (2000) की धारा 67 और 67ए, जो मानहानि और स्पष्ट सामग्री प्रसार सहित डीपफेक के कुछ पहलुओं पर लागू हो सकते हैं।
- मानहानि प्रावधान: भारतीय दंड संहिता (1860) की धारा 500 मानहानि के लिए सजा का प्रावधान करती है, जिसे डीपफेक से जुड़े मामलों में लागू किया जा सकता है।
- व्यक्तिगत डेटा संरक्षण विधेयक (2022): हालाँकि यह विधेयक व्यक्तिगत डेटा के दुरुपयोग के खिलाफ कुछ सुरक्षा प्रदान कर सकता है, लेकिन यह डीपफेक के मुद्दे को स्पष्ट रूप से संबोधित नहीं करता है।
- व्यापक कानूनी ढांचे का अभाव: गोपनीयता, सामाजिक स्थिरता, राष्ट्रीय सुरक्षा और लोकतंत्र पर उनके संभावित प्रभाव के बावजूद, भारत में डीपफेक को विनियमित करने के लिए समर्पित एक व्यापक कानूनी ढांचे का अभाव है।
अंतर्राष्ट्रीय प्रयास
- यूरोपीय संघ (ईयू): 2022 में, ईयू ने डीपफेक के माध्यम से गलत सूचना के प्रसार का मुकाबला करने के इरादे से, दुष्प्रचार पर अपनी अभ्यास संहिता को अद्यतन किया।
- संयुक्त राज्य अमेरिका (यूएस): अमेरिका ने द्विदलीय डीपफेक टास्क फोर्स अधिनियम पेश किया है, जिसे डीपफेक तकनीक के प्रतिकूल प्रभावों से निपटने में होमलैंड सिक्योरिटी विभाग (डीएचएस) का समर्थन करने के लिए डिज़ाइन किया गया है।
- चीन: चीन ने दुष्प्रचार पर अंकुश लगाने पर ध्यान केंद्रित करते हुए जनवरी 2023 से प्रभावी गहन संश्लेषण पर व्यापक नियम लागू किए हैं। ये नियम गहन संश्लेषण सामग्री की स्पष्ट लेबलिंग और पता लगाने की क्षमता, व्यक्तियों से अनिवार्य सहमति, कानूनों और सार्वजनिक नैतिकता का पालन, सेवा प्रदाताओं द्वारा समीक्षा तंत्र की स्थापना और अधिकारियों के साथ सहयोग पर बल देते हैं।
डीपफेक तकनीक की तेजी से प्रगति के कारण इसके प्रसार से जुड़ी नैतिक, कानूनी और सामाजिक चुनौतियों का समाधान करने के लिए सक्रिय उपायों की आवश्यकता है। जिम्मेदार उपयोग को बढ़ावा देकर, डिजिटल साक्षरता को बढ़ावा देकर और व्यापक नियामक ढांचे की स्थापना करके, समाज डीपफेक तकनीक के दुरुपयोग से होने वाले संभावित क्षति से सुरक्षा करते हुए एआई के लाभों का उपयोग कर सकते हैं।
