रील देखकर क्रीम खरीदी, लड़की के चेहरे पर धब्बे पड़े:सदाबहार से शुगर कंट्रोल, सोशल मीडिया पर सलाह देने वाले 'नकली डॉक्टर'
‘अगर रोज सुबह दो सदाबहार की पत्तियां चबा लो, तो शुगर और कोलेस्ट्रॉल दोनों कंट्रोल हो सकते हैं, मैंने ये सालों पहले सीखा था, जब खुद आजमाया तो फर्क पता चला और उसके बाद बहुतों को बताया।’ ये सलाह किसी डॉक्टर की नहीं, बल्कि आर्टिफिशियल इंटेलीजेंस, यानी AI से बनाए वीडियो की है। इनमें नकली डॉक्टर या हेल्थ एक्सपर्ट लोगों को स्वास्थ्य सलाह देते हैं। वीडियो में चेहरा और आवाज असली इंसान जैसी लगती है। ऐसी ही एक रील देखकर लखनऊ की लड़की ने क्रीम मंगाई और चेहरा खराब कर लिया। सोशल मीडिया पर ऐसे कई अकाउंट हैं, जो लिवर की सूजन उतारने से लेकर दो हफ्ते में चश्मा उतारने के लिए नुस्खे बताते हैं। ये सलाह कौन दे रहा है, उसका क्वालिफिकेशन क्या है और जो बातें बताई जा रही हैं, उनका सोर्स क्या है, ये देखने वाले को नहीं बताया जाता। यही पता लगाने के लिए दैनिक भास्कर ने सोशल मीडिया प्लेटफॉर्म्स पर पड़ताल की। सबसे ज्यादा AI जनरेटेड वीडियो हेल्थ और वेलनेस के मिले। कई चैनल्स के जरिए प्रोडक्ट बेचे जा रहे हैं। वीडियो में कमेंट करने पर एक लिंक भेजी जाती है, जिसे क्लिक करते ही प्रोडक्ट से जुड़ी वेबसाइट खुल जाती है। वीडियो बनाने वाले व्यक्ति या कंपनी का नाम-पता नहीं बताया जाता। बातचीत के लिए ईमेल आईडी दी जाती है। सोशल मीडिया पर ऐसे कितने अकाउंट हैं, ये कोई नहीं जानता, चुनिंदा 5 अकाउंट देखिए… अकाउंट: जीविका आयुर्वेद
1.77 लाख फॉलोअर्स, आयुर्वेद से जुड़ी सलाह, डॉक्टर की पहचान नहीं यह अकाउंट देसी नुस्खों और आयुर्वेद से जुड़ी सामग्री पोस्ट करता है। हर वीडियो में एक बुजुर्ग महिला दिखाई देती है, जो गैस, पैरों में सूजन, कोलेस्ट्रॉल, पीरियड्स और किडनी डैमेज जैसी गंभीर बीमारियों का इलाज बताती है। Hive Detect पर जांच: अकाउंट के वीडियो, फोटो और ऑडियो को AI जनरेटेड/ डीपफेक डिटेक्शन टूल हाइव डिटेक्ट पर चेक किया। वीडियो 99.9% और ऑडियो 97.5% AI जनरेटेड डिटेक्ट हुआ। क्वालिफिकेशन: अकाउंट चलाने वाले व्यक्ति की स्पष्ट क्वालफिकेशन, डिग्री या मान्यता प्राप्त इंस्टीट्यूट का सर्टिफिकेट मेंशन नहीं है। गूगल वेरिफिकेशन: गूगल पर भी ऐसी कोई भरोसेमंद जानकारी नहीं मिली, जिससे संबंधित व्यक्ति की क्वालिफिकेशन वेरिफाई हो सके। प्रोडक्ट प्रमोशन: रील्स के कमेंट्स/लिंक्स से आयुर्वेदिक प्रोडक्ट्स बेचने वाले पेज पर जाने का रास्ता मिलता है। कमर्शियल एंगल: हेल्थ इन्फॉर्मेशन के साथ आयुर्वेदिक प्रोडक्ट्स का प्रमोशन/सेल चल रहा है। अकाउंट: शांति वैद्य आयुर्वेद
74 हजार फॉलोअर्स, दो हफ्ते में चश्मा उतारने का दावा लहसुन, संतरा, अंगूर जैसे फल कब और कैसे खाएं और क्या फायदे मिलेंगे, इस अकाउंट पर बुजुर्ग महिला ये सब बताती है। घरेलू नुस्खे और सेहत सुधारने की सलाह भी है। एक वीडियो में दावा है कि देसी नुस्खे से दो हफ्ते में चश्मा हट जाएगा। Hive Detect पर जांच: वीडियो 99.9% और ऑडियो 99.3% AI जनरेटेड डिटेक्ट हुआ। क्वालिफिकेशन: गूगल सर्च के दौरान अकाउंट चलाने वाले व्यक्ति की कोई स्पष्ट क्वालिफिकेशन, डिग्री या मान्यता प्राप्त संस्थान का सर्टिफिकेट नहीं मिला। गूगल वेरिफिकेशन: भरोसमंद जानकारी नहीं मिली, जिससे संबंधित व्यक्ति की क्वालिफिकेशन वेरिफाई हो सके। क्लिनिक एड्रेस: गूगल सर्च में कोई वेरिफाइड क्लिनिक एड्रेस भी नहीं मिला। अकाउंट 3: दादी अम्मा के देसी नुस्खे
दादी अम्मा के 2.82 लाख फॉलोअर्स, असली दादी कौन वीडियो में दादी अम्मा जैसा किरदार दिखाई देता है। ये दादी स्ट्रेच मार्क्स हटाने, वजन बढ़ाने, कभी वजन घटाने का नुस्खा, कभी पेट की चर्बी कम करने की सलाह, कभी बच्चों को लेकर हेल्थ टिप्स देती हैं। एक वीडियो में रातभर में पिंपल ठीक करने का दावा भी है। Hive Detect पर जांच: वीडियो 99.9% AI जनरेटेड और स्पीच 99% AI जनरेटेड डिटेक्ट हुई। क्वालिफिकेशन: गूगल सर्च के दौरान अकाउंट चलाने वाले व्यक्ति की कोई स्पष्ट क्वालिफिकेशन, डिग्री या मान्यता प्राप्त संस्थान का सर्टिफिकेट नहीं मिला। सर्च में कोई वेरिफाइड क्लिनिक एड्रेस भी नहीं मिला। गूगल वेरिफिकेशन: विश्वसनीय जानकारी नहीं मिली, जिससे संबंधित व्यक्ति की क्वालिफिकेशन वेरिफाई हो सके। कमर्शियल एंगल: प्रोफाइल पर ‘DM for Collaboration’ लिखा है, यानी कोलैबरेशन के लिए संपर्क करने की अपील की गई है। अकाउंट 4: मिंग सेंग
13 लाख फॉलोअर्स वाला हीलिंग गाइड डॉक्टर नहीं AI पर्सोना सबसे ज्यादा करीब 13 लाख फॉलोअर्स वाला अकाउंट Ming San Healing नाम से है। इसमें एक बुजुर्ग बौद्ध भिक्षु जैसा किरदार दिखाई देता है। बॉडी डिटॉक्स, पैरों की सूजन, प्राचीन नुस्खे, माइंड और बॉडी वेलनेस के नुस्खे बताता है। Hive Detect पर जांच: वीडियो 99.9% एआई-जनरेटेड और ऑडियो 99.3% एआई-जनरेटेड डिटेक्ट हुआ। क्वालिफिकेशन: गूगल सर्च के दौरान अकाउंट चलाने वाले व्यक्ति की क्वालिफिकेशन, डिग्री या मान्यता प्राप्त संस्थान का सर्टिफिकेट नहीं मिला। सर्च में कोई वेरिफाइड क्लिनिक एड्रेस भी नहीं मिला। गूगल वेरिफिकेशन: गूगल सर्च में @mingsanhealing (Ming San) को एक वायरल सोशल मीडिया पर्सोना और एआई-जनरेटेड डिजिटल इन्फ्लुएंसर बताया गया है, जो खुद को एक बुजुर्ग साधु या पारंपरिक हीलर के तौर पर पेश करता है और प्राचीन तरीकों से हेल्थ, लाइफस्टाइल पर सलाह देता है। अकाउंट 5: Dr. Ellene
नाम में डॉक्टर लेकिन डॉक्टर होने का सबूत नहीं इस अकाउंट पर पोस्ट वीडियो में हार्ट अटैक, सेक्सुअल हेल्थ, कैंसर के संकेत और किडनी फेल्योर जैसे गंभीर मेडिकल विषयों पर सलाह दी जाती है। Hive Detect पर जांच: वीडियो और ऑडियो दोनों AI जनरेटेड। क्वालिफिकेशन: प्रोफाइल पर स्पष्ट नहीं किया गया है कि संबंधित व्यक्ति किस अस्पताल में डॉक्टर हैं या उनका स्पेशलाइजेशन क्या है। गूगल वेरिफिकेशन: भरोसेमंद जानकारी नहीं मिली, जिससे उनके डॉक्टर होने या मेडिकल क्वालिफिकेशन को वेरिफाई किया जा सके। फॉलोअर्स के जरिए प्रोडक्ट भी बेच रहे ये सभी सोशल मीडिया अकाउंट कुछ महीने पहले शुरू हुए और फॉलोअर्स की संख्या हजारों–लाखों तक पहुंच गई। ये एक से ज्यादा प्लेटफॉर्म पर चल रहे हैं। Jivika Ayurveda के इंस्टाग्राम पर 1.77 लाख और फेसबुक पर 37 हजार फॉलोअर्स हैं। दोनों अकाउंट मार्च 2026 में शुरू हुए। दोनों प्रोफाइल पर एक ही वेबसाइट jivikaayurveda.com का लिंक है। वेबसाइट पर तीन ई-बुक्स बेची जा रही हैं, जिनकी मूल कीमत 199 रुपए बताई गई है, लेकिन डिस्काउंट के बाद इन्हें 99 रुपए में बेचा जा रहा है। इन ई-बुक्स में फैट बर्निंग, बॉडी रिसेट और गर्मी में शरीर को ठंडा रखने जैसे नुस्खे बताए गए हैं, यानी यहां सोशल मीडिया कंटेंट और सीधे पेड डिजिटल प्रोडक्ट के बीच लिंक दिखता है। ऐसे वीडियो कौन बना रहा, पड़ताल में 4 बातें सामने आईं ऐसे अकाउंट फॉलो करना खतरनाक लखनऊ में 22 साल की अरुणिमा (नाम बदला हुआ) ने सोशल मीडिया रील देखकर एक फेयरनेस क्रीम मंगाई। दावा था कि इस क्रीम से स्किन ग्लो होती है। अरुणिमा ने रोज क्रीम लगाई, लेकिन इससे उसके गालों और आंखों के आसपास काले धब्बे बन गए। वो डॉक्टर के पास गई तो पता चला कि क्रीम में स्टेरॉयड थे। अरुणिमा को ठीक होने में छह महीने लग गए। भोपाल के खुशीलाल शर्मा शासकीय आयुर्वेद महाविद्यालय के प्राचार्य डॉ. उमेश शुक्ला इस ट्रेंड पर चिंता जताते हुए कहते हैं कि AI जनरेटेड वीडियो में दावे किए जाते हैं कि फलां आयुर्वेदिक औषधि इस बीमारी को दूर कर सकती है। किचन में मिलने वाली घरेलू औषधि किडनी फंक्शन बेहतर कर देगी। इम्यूनिटी सिस्टम मजबूत कर देगी या अमुक बीमारी कम समय में ठीक कर देगी। ऐसे दावों को बिना जांचे भरोसा करना गलत है। इससे सेहत को नुकसान हो सकता है। आयुर्वेद में जितनी औषधियों के प्रभाव हैं, वे हजारों साल से सिस्टम में है। जानकारी रखने वाला ही इन्हें अच्छे ढंग से उपयोग कर सकता है। विशेषज्ञ जब तक सलाह न दे, तब तक उसको उपयोग करने से बचना चाहिए। वहीं अपोलो सेज हॉस्पिटल के डॉ. आनंद जाट कहते हैं, ‘एआई जनरेटेड वीडियो बिल्कुल सटीक कभी नहीं हो सकते क्योंकि इसमें कोई क्वालिफाइड डॉक्टर नहीं होता। इन्हें कभी फॉलो नहीं करना चाहिए।’ ‘आपको अगर कोई बीमारी है, आप किसी परेशानी से जूझ रहे हैं तो आपको उस बीमारी से रिलेटेड कंसलटेंट या फिजिशियन या सर्जन से इलाज करना चाहिए। वीडियोज में जिन दवाइयों की ऑनलाइन सलाह दी जा रही है, उससे हो सकता है कि आपका लिवर-किडनी खराब हो जाए।’ आपकी फोटो के क्लोन से पूरा वीडियो तैयार कर देंगे, कोई पहचान नहीं पाएगा इतनी बड़ी संख्या में हाई क्वालिटी वाले AI वीडियो कौन और कैसे बना रहा है, ये पता करने के लिए हमने हैदराबाद की एक निजी कंपनी से संपर्क किया। उनसे कहा कि हमें एस्ट्रोलॉजी के लिए AI वीडियो बनवाना है। कंपनी रिप्रेजेंटेटिव ने बताया कि 20 सेकेंड के वीडियो का चार्ज 30 हजार रुपए होगा। वीडियो एकदम रियलिस्टिक लगता है। इसलिए हमारे चार्ज ज्यादा हैं। वीडियो देखकर कोई समझ नहीं पाएगा कि ये AI से बनाए हैं। आपको सिर्फ सब्जेक्ट बताना है। हमारी टीम उसी हिसाब से स्टोरी राइटिंग करेगी। हम आपकी फोटो से आपका क्लोन तैयार करेंगे। फिर उसी से पूरा वीडियो तैयार हो जाएगा। साइबर लॉ एक्सपर्ट पवन दुग्गल के मुताबिक, ‘IT रूल्स में AI जनरेटेड कंटेंट को लेबल करने की जिम्मेदारी सर्विस प्रोवाइडर्स की है, लेकिन नियम न मानने पर क्या एक्शन होगा, ये नहीं बताया गया।’ ‘कंटेंट की ऑथेंटिसिटी और वेरिफिकेशन के काम तक तो अभी हम पहुंचे ही नहीं। अगर कोई व्यक्ति इलेक्ट्रॉनिक रिकॉर्ड के जरिए पहचान या तथ्यों को गलत तरीके से पेश कर धोखा देता है, तो उसे 7 साल तक की सजा हो सकती है।’ फेक वीडियो नहीं, भरोसा असली हथियार AI जनरेटेड वीडियो ऐसे बन रहे हैं कि उन्हें देखकर फेक और रियल में फर्क करना मुश्किल हो रहा है। एंटी-साइबरक्राइम स्ट्रैटेजिस्ट और एआई-साइबर साइकोलॉजिस्ट शोनल डी के मुताबिक, ‘AI वीडियो स्कैम में फाइनेंस सबसे बड़ी कैटेगरी है। इसके बाद हेल्थ और एस्ट्रोलॉजी से जुड़ा कंटेंट आता है। करीब 30-40% AI वीडियो स्कैम फाइनेंस से जुड़े बताए जाते हैं, जबकि 20-30% में मेडिकल इन्फ्लुएंसर और एस्ट्रोलॉजी कंटेंट शामिल है। डॉक्टर, सेलिब्रिटी या सरकारी अधिकारी के चेहरे और आवाज का इस्तेमाल कर स्कैमर अथॉरिटी का फायदा उठाते हैं।’ सिर्फ एक फोटो से वीडियो तैयार शोनल बताती हैं, ‘AI डीपफेक बनाना सस्ता है। एक फोटो और प्रॉम्प्ट से चेहरा, आवाज और लिप-सिंक वाला रियलिस्टिक वीडियो तैयार हो जाता है। एक वीडियो पर 100 से हजार रुपए तक खर्च हो सकते हैं।’ ‘ कई बार इसके पीछे पूरा नेटवर्क काम करता है। कोई वीडियो बनाता है, कोई उसे अलग-अलग अकाउंट से फैलाता है, फिर लोगों को वॉट्सऐप, टेलीग्राम जैसे प्लेटफॉर्म पर लाकर पेमेंट करवाई जाती है। कई अकाउंट से एक ही दावा सामने आने पर लोगों को उसकी क्रेडेबिलिटी पर भरोसा हो जाता है।’ वीडियो असली दिखे, फिर भी भरोसा न करें शोनल के मुताबिक, ‘किसी AI वीडियो को सिर्फ देखकर ऑथेंटिक मानना सही नहीं है। वीडियो का ऑफिशियल सोर्स वेरिफाई करना चाहिए। किसी डॉक्टर, सेलिब्रिटी या सरकारी स्कीम का दावा हो तो ऑफिशियल वेबसाइट या संबंधित सोशल मीडिया हैंडल चेक करें।’ ‘संदिग्ध वीडियो का URL, वीडियो, नंबर और पेमेंट डिटेल्स जैसे सबूत सुरक्षित रखें और नेशनल साइबर क्राइम रिपोर्टिंग पोर्टल पर रिपोर्ट करें। पैसे का नुकसान हो चुका हो, तब भी सबूतों के साथ शिकायत की जा सकती है।’ एथेनियन टेक के सीईओ और एआई सिक्योरिटी एक्सपर्ट कनिष्क गौर के मुताबिक, फेक वेटलॉस, बॉडी बिल्डिंग प्रोडक्ट्स को प्रमोट करने के लिए एआई जनरेटेड वीडियो का इस्तेमाल हो रहा है। वहीं, ग्वालियर के अटल बिहारी वाजपेयी इंडियन इंस्टीट्यूट ऑफ इंफॉर्मेशन टेक्नोलॉजी एंड मैनेजमेंट के डिपार्टमेंट ऑफ इंफॉर्मेशन टेक्नोलॉजी में असिस्टेंट प्रोफेसर डॉ. सुनील कुमार कहते हैं, ‘AI वीडियो बनाने के लिए टेक्निकल एक्सपर्ट होना जरूरी नहीं है। जैसे, किसी अच्छे फोटोग्राफर के पास जरूरी नहीं कि कोई बड़ी डिग्री हो, लेकिन उसे कैमरा और फोटो एडिटिंग सॉफ्टवेयर चलाना अच्छी तरह आता है। वह लाइट, कॉन्ट्रास्ट और दूसरी चीजों को एडिट करके ऐसी फोटो बना सकता है, जो सामान्य व्यक्ति के लिए बनाना मुश्किल हो।’ ‘AI के साथ भी कुछ ऐसा ही हो रहा है। दुनिया भर के रिसर्चर्स ने ऐसे जनरेटिव AI मॉडल तैयार किए हैं, जो वीडियो, ऑडियो, फोटो बना सकते हैं। अब इन्हें इस्तेमाल करने के लिए मॉडल को अंदर से समझना जरूरी नहीं है। बस टूल चलाना आना चाहिए। यही वजह है कि बिना किसी खास डिग्री के भी कोई व्यक्ति AI की मदद से वीडियो बना सकता है। अगर किसी व्यक्ति को AI टूल चलाना अच्छी तरह आता है तो वह 5 से 10 मिनट में वीडियो या ऑडियो तैयार कर सकता है।’ टेक एंड पब्लिक पॉलिसी लीडर सिद्धार्थ राजहंस कहते हैं, ‘एआई जनरेटेड कंटेंट के लिए हमें सिर्फ कंटेंट क्रिएशन नहीं, बल्कि अथेंटिसिटी का पब्लिक वेरिफिकेशन मैकेनिज्म बनाना चाहिए। जहां कोई भी व्यक्ति फोटो, वीडियो या ऑडियो अपलोड करके जांच सके कि वह AI जेनरेटेड है और किस टेक्नोलॉजी से बना है।’ …………………………….………….
डिस्क्लेमर: वीडियो में AI-जनरेटेड काल्पनिक/सांकेतिक सामग्री है। इसमें किसी वास्तविक व्यक्ति का चित्रण या कैरिकेचर और वास्तविक जीवन की फुटेज नहीं है।
