एआई के खतरे : क्या लड़कियों को सोशल मीडिया प्रोफाइल प्राइवेट रखनी चाहिए ?

आज हम बात करने जा रहे हैं एआई के दूसके पहलू की जो जितना मददगार है उतना ही खतरनाक। कल्पना कीजिए – आपकी आंखें देख रही हैं, कान सुन रहे हैं, लेकिन जो दिख रहा है, वो बिल्कुल झूठा है! जी हां, हम बात कर रहे हैं आर्टिफिशियल इंटेलिजेंस, यानी एआई के डरावने चेहरे – डीपफेक की। 2025 में ये खतरा इतना बढ़ गया है कि एफबीआई खुद चेतावनी दे रही है: “अब अपनी आंखों और कानों पर भरोसा न करें!” सिर्फ 50 बिलियन डॉलर का नुकसान हो चुका है स्कैम्स से। लेकिन सबसे ज्यादा चोट खा रही हैं हमारी बहनें-बेटियां।

सबसे पहले, एआई के ये खतरे समझिए। डीपफेक सिर्फ मजाक नहीं – ये एक हथियार है! पहला नॉन-कंसेंशुअल इंटीमेट इमेजेस। जिसमें आपकी फोटो चुराकर एआई न्यूड या सेक्शुअल कंटेंट बना देता है, जो ब्लैकमेल या साइबरबुलिंग का हथियार बन जाता है। महिलाओं पर 90% से ज्यादा अटैक ऐसे ही होते हैं। नंबर टू: फाइनेंशियल फ्रॉड। एआई वॉइस क्लोनिंग से फोन पर CEO की आवाज बनाकर करोड़ों उड़ा लेते हैं। 2025 के पहले क्वार्टर में ही 163 ऐसे केस रिकॉर्ड हुए! और नंबर थ्री: सोशल ट्रस्ट का कत्ल। फेक वीडियोज से चुनाव प्रभावित होते हैं, जजों को धमकियां मिलती हैं, यहां तक कि बच्चों का सेफ्टी खतरे में पड़ जाता है। इंडोनेशिया में तो कानून भी बन गया नॉन-कंसेंशुअल इमेजेस पर। आंकड़े चौंकाने वाले हैं – पिछले तीन सालों में फ्रॉड 2137% बढ़ गया! ये सिर्फ टेक नहीं, हमारी आजादी पर हमला है!

अब सुनिए असली कहानियां, जो रोंगटे खड़े कर देंगी। पहला केस – फ्लोरिडा की जज जेनिफर जॉनसन। एक एआई वीडियो में उन्हें मौत के घाट उतारते दिखाया गया – इतना रियल कि उनके बच्चे डर से कांप उठे! ये धमकी महिलाओं जजों के खिलाफ बढ़ रही हिंसा का प्रतीक है। दूसरा: हॉलीवुड स्कैंडल! एक एक्ट्रेस की लाइकनेस चुराकर एआई ने फेक ऐड्स और पॉलिटिकल प्रोपगैंडा बनाया। नतीजा? 1.5 बिलियन डॉलर का मुकदमा! एक्टर्स अब अपनी ही इमेज से डर रहे हैं। और तीसरा: एक कंपनी का सीनियर एग्जीक्यूटिव क्लोन करके वीडियो कॉल पर 25 मिलियन डॉलर लूट लिए स्कैमर्स ने। ये 2025 का सबसे बड़ा साइबर क्राइम है! ये केस बताते हैं – एआई अब क्रिमिनल्स का सबसे बड़ा साथी है। 35% ज्यादा इंसिडेंट्स इस साल

वहीं इसपर हम बात करें एक्शन की तो यूएस का TAKE IT DOWN एक्ट अब डीपफेक्स पर सख्ती कर रहा है। यूरोपियन यूनियन का AI एक्ट वॉटरमार्किंग अनिवार्य कर रहा है, ताकि फेक कंटेंट पकड़ा जाए। टेक कंपनियां डिटेक्शन टूल्स बना रही हैं – जैसे कलर अब्नॉर्मलिटीज स्पॉट करने वाले सॉफ्टवेयर। और सबसे जरूरी: अवेयरनेस! स्कूलों में साइबर ट्रेनिंग, प्राइवेसी सेटिंग्स स्ट्रिक्ट रखें। लड़कियां, अपनी सोशल मीडिया प्रोफाइल प्राइवेट रखें – ये आपका पहला शील्ड है। एक्सपर्ट्स कहते हैं: “प्रूफ ऑफ पर्सनहुड” जैसी टेक्नोलॉजी से हम रियल को फेक से अलग कर सकते हैं।

एआई से क्या-क्या संभव है?

एआई (आर्टिफिशियल इंटेलिजेंस) ने इमेज जनरेशन के क्षेत्र में क्रांति ला दी है। कुछ मुख्य संभावनाएं ये हैं –

• क्रिएटिव काम  – एआई टूल्स जैसे DALL-E, Midjourney या Stable Diffusion से आप फैंटसी आर्ट, डिजाइन, विज्ञापन या यहां तक कि फिल्म पोस्टर्स बना सकते हैं। उदाहरण के लिए, एक साधारण टेक्स्ट प्रॉम्प्ट से रियलिस्टिक इमेज जेनरेट हो जाती है।
• डिपफेक –  रियल फोटोज को एडिट करके वीडियो या इमेज बनाना, जैसे किसी की फेस को किसी बॉडी पर स्विच करना।
• मेडिकल और एजुकेशन  – मेडिकल इमेजरी में ट्यूमर डिटेक्ट करना या हिस्टोरिकल रीक्रिएशन।
• एंटरटेनमेंट – वर्चुअल अवतार या गेमिंग में कस्टम कैरेक्टर्स।

ये सब तेजी से हो रहा है, लेकिन इसका इस्तेमाल जिम्मेदारी से करना जरूरी है।

एआई के खतरे (खासकर इमेज जनरेशन के)

एआई जेनरेटेड इमेजेस के खतरे गंभीर हैं, खासकर महिलाओं और लड़कियों के लिए –

• नॉन-कंसेंशुअल पॉर्न – जिसे रियल फोटोज से डिपफेक न्यूड इमेजेस बनाना, जो ब्लैकमेल या साइबरबुलिंग के लिए यूज होता है।
• मिसइनफॉर्मेश – जिसे फेक न्यूज या पॉलिटिकल मैनिपुलेशन, जैसे चुनावों में डिपफेक वीडियोज।
• प्राइवेसी लॉस – जिसमें आपकी फोटोज चोरी होकर ट्रेनिंग डेटा में यूज हो सकती हैं, जिससे बायस (जैसे रेस या जेंडर बायस) बढ़ता है।
• साइबर थ्रेट्स जिसमें –  हैकिंग या सिक्सटॉर्शन, जहां माइनर्स को टारगेट किया जाता है।

रियल फोटोज को लेकर हुए केस

2024-2025 में कई हाई-प्रोफाइल केस सामने आए, ज्यादातर महिलाओं को टारगेट करके:

• स्कूलों में डिपफेक न्यूड्स: अमेरिका के वेस्टफील्ड हाई स्कूल में लड़कियों की रियल फोटोज से AI न्यूड इमेजेस बनाकर शेयर की गईं, जिससे साइबरबुलिंग बढ़ी। पेंसिल्वेनिया में भी टीन गर्ल्स को टारगेट किया गया।
• सेलिब्रिटी स्कैंडल्स: स्कारलेट जोहानसन और स्टीव हार्वे जैसे सेलेब्स के डिपफेक वीडियोज वायरल हुए, जो पॉलिटिकल और एंटरटेनमेंट इंडस्ट्री को प्रभावित कर रहे हैं।
• लीगल एक्शन: सैन फ्रांसिस्को ने 10 वेबसाइट्स शटडाउन कीं जो नॉन-कंसेंशुअल डिपफेक पॉर्न बनाती थीं। फ्रांस में नया कानून बना जो ऐसे डिपफेक्स को क्रिमिनल बनाता है।
• सोशल मीडिया पर: इंस्टाग्राम पर AI-जेनरेटेड न्यूड इमेजेस ऑफ विमेन पब्लिक फिगर्स पोस्ट हुए, जिसे ओवरसाइट बोर्ड ने हैंडल किया।

ये केस दिखाते हैं कि ज्यादातर विक्टिम्स महिलाएं हैं, और ये सिक्योरिटी थ्रेट बन चुका है।

इससे क्या सुधार हो सकते हैं?

एआई के इन खतरों से निपटने के लिए कई सुधार चल रहे हैं –

• रेगुलेशन्स: यूएस में TAKE IT DOWN Act (2025) ने हानिकारक डिपफेक्स पर पहला फेडरल लॉ बनाया। EU AI Act में डिपफेक्स पर ट्रांसपेरेंसी रूल्स हैं, जैसे वॉटरमार्किंग। कई स्टेट्स में डिपफेक लेजिस्लेशन पास हो चुकी है।
• टेक सॉल्यूशन्स: AI डिटेक्शन टूल्स (जैसे कलर अब्नॉर्मलिटीज स्पॉट करने वाले मॉडल्स) और ऑथेंटिकेशन मेथड्स।
• एजुकेशन और अवेयरनेस: स्कूलों में साइबरबुलिंग प्रोग्राम्स और प्राइवेसी ट्रेनिंग।
• ग्लोबल अप्रोच: वर्ल्ड इकोनॉमिक फोरम ने डिसइनफॉर्मेशन को टॉप रिस्क बताया, और डिपफेक डिटेक्शन को प्रमोट कर रहा है।

भविष्य में, एथिकल AI डेवलपमेंट और स्ट्रॉन्गर लॉज फ्रेमवर्क्स से ये खतरे कम हो सकते हैं।

लड़कियों को सोशल मीडिया प्रोफाइल प्राइवेट रखनी चाहिए?

जैसे – जैसे डीपफेक फोटो वीडियों लगातार जनरेट होते जा रहें हैं उसको देखते हुए सभी को अपेन सोशल मीडियां आकाउंट को फिलहाल तो प्रावेट करके रखने चाहिए हाल ही में हो रहे केसेस को देखते हुए. और खासकर अपनी पब्लिक प्रोफाइल को प्राइवेट रखनी चाहिए।

• पब्लिक प्रोफाइल्स से रियल फोटोज आसानी से चोरी हो जाती हैं, जो डिपफेक या सिक्सटॉर्शन के लिए यूज होती हैं।
• प्रोफाइल को प्राइवेट रखें, फोटोज शेयर करने से पहले सोचें, लोकेशन या पर्सनल डिटेल्स न शेयर करें। सभी अकाउंट्स पर स्ट्रिक्ट प्राइवेसी सेटिंग्स यूज करें। अगर टारगेट फील हो, तो रिपोर्ट करें और लीगल हेल्प लें।

भारत में डीपफेक (AI-जनरेटेड फेक कंटेंट) एक उभरता खतरा है, खासकर साइबर फ्रॉड, डिफेमेशन, प्राइवेसी उल्लंघन और महिलाओं के खिलाफ हिंसा के रूप में। हालांकि कोई स्पष्ट कानून नहीं है, लेकिन मौजूदा कानूनों, अदालती फैसलों और सरकारी पहलों से इसे संबोधित किया जा रहा है। 2025 तक (अक्टूबर तक) मुख्य काम इस प्रकार हैं:

1. कानूनी फ्रेमवर्क और रेगुलेशन्स

भारत में डीपफेक के लिए कोई अलग कानून नहीं है, लेकिन मौजूदा कानूनों को विस्तार से लागू किया जा रहा है। मुख्य प्रावधान:

• इनफॉर्मेशन टेक्नोलॉजी (IT) एक्ट, 2000:
  • सेक्शन 66C: पहचान चोरी (आइडेंटिटी थेफ्ट)।
  • सेक्शन 66D: कंप्यूटर से धोखाधड़ी (चीटिंग बाय पर्सोनेशन)।
  • सेक्शन 66E: प्राइवेट इमेज बिना सहमति शेयर करना।
  • सेक्शन 67, 67A, 67B: अश्लील या यौन सामग्री का प्रसार।
• भारतीय न्याय संहिता (BNS), 2023:
  • सेक्शन 356: मानहानि (डिफेमेशन)।
  • सेक्शन 351: आपराधिक धमकी (क्रिमिनल इंटिमिडेशन)।
  • सेक्शन 77: महिलाओं की प्राइवेट एक्ट्स की इमेज कैप्चर/शेयर करना।
• डिजिटल पर्सनल डेटा प्रोटेक्शन (DPDP) एक्ट, 2023: पर्सनल डेटा के दुरुपयोग को रोकता है, लेकिन डीपफेक क्रिएशन पर डायरेक्ट नहीं।
• IT (इंटरमीडियरी गाइडलाइंस) रूल्स, 2021: मार्च 2024 में MeitY का एडवाइजरी – सोशल मीडिया प्लेटफॉर्म्स को डीपफेक को लेबल करना अनिवार्य (मेटाडेटा या आइडेंटिफायर से)।

ये कानून आर्टिकल 21 (प्राइवेसी का अधिकार) और आर्टिकल 19(2) (फ्री स्पीच पर प्रतिबंध) के तहत लागू होते हैं।

2. अदालती फैसले और प्रमुख केस

अदालतें पर्सनालिटी राइट्स (व्यक्तित्व अधिकार) को मजबूत कर रही हैं, जो डीपफेक के खिलाफ बड़ा हथियार बन रहा है। 2025 तक प्रमुख केस:

• अभिषेक बच्चन और ऐश्वर्या राय बनाम अनजान पक्ष (दिल्ली हाई कोर्ट, सितंबर 2025) – कोर्ट ने AI-जनरेटेड फोटोज/वीडियोज, वॉइस और लाइकनेस के अनऑथराइज्ड यूज पर रोक लगाई। पर्सनालिटी राइट्स को इंटेलेक्चुअल प्रॉपर्टी (IP) जैसा माना, सेलिब्रिटीज को ट्रेडमार्किंग का अधिकार दिया। विशेषज्ञों का कहना: ये डीपफेक के लिए प्रोएक्टिव प्रोटेक्शन है, लेकिन पैरोडी या फैन आर्ट पर बैलेंस जरूरी।
• अनिल कपूर बनाम सिंपली लाइफ इंडिया (2023) – नॉन-कंसेंशुअल डीपफेक पर इंजंक्शन, पर्सनालिटी राइट्स को मजबूत किया।
• अरिजीत सिंह बनाम कोडिबल वेंचर्स (2024) – डिफेमेटरी डीपफेक वीडियोज पर रोक।
• गौरव भाटिया बनाम नवीन कुमार (2024) – डीपफेक वीडियोज को डिफेमेशन माना।
• अक्षय तन्ना बनाम जॉन डो (2024) – फ्रॉडुलेंट डीपफेक इम्पर्सोनेशन पर इंजंक्शन।
• NSE बनाम मेटा प्लेटफॉर्म्स (2024) – IT रूल्स के तहत डीपफेक वीडियोज हटाने का आदेश।
• निरमान मल्होत्रा बनाम तुषिता कौल (2024) – एलिमनी डिस्प्यूट में डीपफेक एविडेंस की जांच।
• चैतन्य रोहिला बनाम यूनियन ऑफ इंडिया (PIL, 2023) – डीपफेक AI वेबसाइट्स ब्लॉक करने की मांग, जो अब भी पेंडिंग।

ये केस दिखाते हैं कि ज्यूडिशियल इंटरप्रिटेशन से लीगल गैप्स भरे जा रहे हैं, लेकिन स्पेसिफिक लॉ की कमी चुनौती।

ये भी पढ़े – भोजपुरी स्टार पवन सिंह की पत्नी ज्योति सिंह ने अपार्टमेंट में किया हंगामा, बोलीं– “पति से मिले बिना नहीं जाऊंगी”