Artificial Intelligence यानी AI ने तकनीक की दुनिया में बड़ा बदलाव ला दिया है। आज AI की मदद से तस्वीरें बनाई जा सकती हैं, वीडियो एडिट किए जा सकते हैं, आवाज बदली जा सकती है और कुछ ही मिनटों में ऐसा डिजिटल कंटेंट तैयार किया जा सकता है जो देखने में बिल्कुल वास्तविक लगे। यह तकनीक शिक्षा, स्वास्थ्य, कारोबार, मनोरंजन और रचनात्मक क्षेत्र के लिए उपयोगी साबित हो रही है, लेकिन इसके गलत इस्तेमाल ने नई चिंताएं भी पैदा कर दी हैं।
सबसे बड़ी चिंता तब सामने आती है जब AI का इस्तेमाल किसी व्यक्ति की बिना अनुमति तस्वीर या वीडियो बदलने, चेहरे और आवाज की नकल करने, फर्जी वीडियो बनाने या किसी व्यक्ति को ऐसी परिस्थिति में दिखाने के लिए किया जाता है जो वास्तविक नहीं है। ऐसे मामलों में डिजिटल तकनीक किसी व्यक्ति की निजता, प्रतिष्ठा और सुरक्षा को प्रभावित कर सकती है।
Deepfake और Morphing क्यों बन रहे हैं गंभीर खतरा?
पहले किसी तस्वीर या वीडियो में बदलाव करने के लिए तकनीकी जानकारी और काफी समय की जरूरत होती थी। AI ने इस प्रक्रिया को काफी आसान बना दिया है। अब सामान्य यूजर भी कई AI tools की मदद से फोटो, वीडियो और ऑडियो में ऐसे बदलाव कर सकता है जिन्हें पहचानना हमेशा आसान नहीं होता।
यहीं से Deepfake और manipulated content की समस्या गंभीर हो जाती है।
अगर किसी व्यक्ति की तस्वीर का गलत इस्तेमाल किया जाए, उसकी आवाज में झूठी बात रिकॉर्ड की जाए या उसके चेहरे को किसी दूसरे वीडियो में जोड़कर वायरल किया जाए, तो इससे वास्तविक व्यक्ति को सामाजिक और व्यक्तिगत नुकसान हो सकता है।
भारत में AI-generated content को लेकर नियम हुए सख्त
भारत सरकार ने भी synthetic या AI-generated content से जुड़े जोखिमों को देखते हुए IT Rules में बदलाव किए हैं। MeitY द्वारा 2025 में जारी प्रस्तावों में synthetically generated information की परिभाषा, उसकी labelling, visibility, metadata और provenance जैसे पहलुओं पर जोर दिया गया था।
इसके बाद Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026 को 10 फरवरी 2026 को अधिसूचित किया गया और ये 20 फरवरी 2026 से लागू हुए। MeitY के अनुसार इन नियमों का उद्देश्य AI-generated और अन्य synthetic content के दुरुपयोग से पैदा होने वाले जोखिमों से निपटना और intermediaries की जिम्मेदारियों को स्पष्ट करना है।
इसका मतलब यह है कि AI से बनाया गया कंटेंट अब केवल तकनीकी विषय नहीं रह गया है, बल्कि डिजिटल सुरक्षा और कानूनी जवाबदेही का भी महत्वपूर्ण हिस्सा बन चुका है।
बिना अनुमति फोटो-वीडियो बदलने पर कड़ी कार्रवाई जरूरी
किसी व्यक्ति की तस्वीर या वीडियो को उसकी अनुमति के बिना इस तरह बदलना कि उसकी प्रतिष्ठा या निजी जीवन प्रभावित हो, गंभीरता से लिया जाना चाहिए।
विशेष रूप से ऐसे मामलों में सख्त कार्रवाई की जरूरत महसूस होती है जहां AI या Deepfake का इस्तेमाल:
- किसी व्यक्ति की फोटो या वीडियो को उसकी अनुमति के बिना बदलने में हो;
- फर्जी अश्लील या आपत्तिजनक कंटेंट बनाने में हो;
- किसी व्यक्ति के चेहरे या आवाज की नकल करके झूठी जानकारी फैलाने में हो;
- ब्लैकमेल या धमकी देने के लिए किया जाए;
- किसी व्यक्ति की प्रतिष्ठा खराब करने के उद्देश्य से किया जाए;
- बच्चों को निशाना बनाकर आपत्तिजनक synthetic content तैयार किया जाए;
- धार्मिक या सामाजिक तनाव पैदा करने के उद्देश्य से भ्रामक कंटेंट फैलाया जाए।
ऐसे मामलों में केवल कंटेंट हटाना ही पर्याप्त नहीं होना चाहिए। कंटेंट बनाने वाले, जानबूझकर उसे फैलाने वाले और परिस्थितियों के अनुसार संबंधित डिजिटल प्लेटफॉर्म की जवाबदेही भी स्पष्ट होनी चाहिए।
क्या हर AI-generated कंटेंट को अपराध माना जा सकता है?
यहां संतुलन रखना भी जरूरी है।
AI से बनाई गई हर तस्वीर या वीडियो गलत नहीं है। फिल्म निर्माण, VFX, शिक्षा, satire, animation, accessibility, advertising और creative projects में AI का वैध इस्तेमाल हो सकता है।
इसलिए कानून बनाते समय तकनीक के इस्तेमाल और उसके उद्देश्य के बीच अंतर करना जरूरी है।
किसी व्यक्ति को नुकसान पहुंचाने के इरादे से बनाया गया Deepfake और किसी फिल्म या रचनात्मक प्रोजेक्ट के लिए बनाया गया fictional AI content एक जैसा नहीं हो सकता।
इसी कारण भविष्य के कानूनी framework में बिना सहमति, धोखाधड़ी, पहचान की नकल, ब्लैकमेल, गंभीर उत्पीड़न और वास्तविक नुकसान जैसे तत्वों को स्पष्ट रूप से परिभाषित करना महत्वपूर्ण होगा।
बच्चों की सुरक्षा पर सबसे ज्यादा ध्यान जरूरी
AI के बढ़ते इस्तेमाल के बीच बच्चों की ऑनलाइन सुरक्षा एक महत्वपूर्ण मुद्दा है। इंटरनेट पर एक बार कोई फर्जी फोटो या वीडियो वायरल हो जाने के बाद उसे पूरी तरह हटाना बेहद मुश्किल हो सकता है।
इसलिए बच्चों से संबंधित आपत्तिजनक या नुकसान पहुंचाने वाले synthetic content के मामलों में तेज शिकायत व्यवस्था, तत्काल कार्रवाई और प्रभावी कानून-प्रवर्तन की आवश्यकता है।
साथ ही बच्चों और अभिभावकों को भी यह समझना जरूरी है कि इंटरनेट पर दिखाई देने वाला हर फोटो और वीडियो वास्तविक नहीं होता।
सिर्फ कानून नहीं, जवाबदेही भी जरूरी
AI के दुरुपयोग को रोकने के लिए केवल कड़ी सजा बनाना पर्याप्त नहीं होगा। इसके साथ कई स्तरों पर व्यवस्था मजबूत करनी होगी।
पहचान, रोकथाम, शिकायत, कंटेंट हटाने और कानूनी कार्रवाई—इन सभी प्रक्रियाओं को तेज और प्रभावी बनाना होगा।
AI platforms और social media companies के लिए स्पष्ट जिम्मेदारियां, synthetic content की पहचान, उचित labelling और provenance जैसी व्यवस्थाएं इसमें मदद कर सकती हैं। MeitY के 2025 के प्रस्तावों में भी synthetic information के लिए labelling और metadata/identifier जैसी तकनीकी व्यवस्थाओं पर जोर दिया गया था।
AI समस्या नहीं, उसका गलत इस्तेमाल समस्या है
AI को रोकना इसका समाधान नहीं है। यह तकनीक आने वाले वर्षों में शिक्षा, स्वास्थ्य, कारोबार और रचनात्मक क्षेत्रों में महत्वपूर्ण भूमिका निभा सकती है।
जरूरत इस बात की है कि तकनीकी विकास के साथ जिम्मेदारी और जवाबदेही भी बढ़े।
किसी की अनुमति के बिना उसकी पहचान, तस्वीर, आवाज या वीडियो का इस्तेमाल कर उसे नुकसान पहुंचाने वाले मामलों के लिए स्पष्ट कानूनी व्यवस्था, तेज कार्रवाई और प्रभावी enforcement जरूरी है।
AI समाज के लिए अवसर बन सकता है, लेकिन इसके दुरुपयोग को रोकने के लिए कानून और डिजिटल जिम्मेदारी दोनों को समय के साथ मजबूत करना होगा।