राजनीति से लेकर फिल्मों और यहां तक ​​कि युद्ध तक साल 2023 ने हमें बहुत कुछ सिखाया है। जैसे हम जो कुछ भी देखते या सुनते हैं वो पूरा सच नहीं हो सकता है। डीपफेक तकनीक इस्तेमाल करने में ज्यादा सरल हो गई है। किफायती एआई टूल के विकास की वजह से डीपफेक में काफी इजाफा हुआ है।अमेरिका की वेब सुरक्षा कंपनी ‘होम सिक्योरिटी हीरोज’ की ‘2023 स्टेट ऑफ डीपफेक रिपोर्ट’ के मुताबिक 2019 के बाद से डीपफेक वीडियो का इस्तेमाल पांच गुना से ज्यादा बढ़ गया है। भारत में भी डीपफेक से जुड़ी कई समस्याएं सामने आई हैं।

अभिनेत्री रश्मिका मंदाना के मामले में एक गुजराती सोशल मीडिया इन्फ्लुएंसर का चेहरा रश्मिका के चेहरे पर लगाया गया था, जिसका वीडियो सोशल मीडिया पर जमकर वायरल हुआ था।इस मामले ने डीपफेक तकनीक को लेकर देश में बहस छेड़ दी थी। इस मामले में चार लोगों को गिरफ्तार भी किया गया था।आलिया भट्ट, काजोल, ऐश्वर्या राय और कैटरीना कैफ जैसे फिल्मी सितारों को भी डीपफेक वीडियो के जरिए निशाना बनाया गया। इन मामलों ने देश में किसी भी शख्स की प्राइवेसी को लेकर चिंताएं बढ़ा दी थीं।विश्व स्तर पर डीपफेक का इस्तेमाल यूक्रेन-गाजा युद्ध को लेकर कई फेक स्टोरी बनाने के लिए भी किया गया।हाल ही में हुए राज्य विधानसभा चुनावों के दौरान भी डीपफेक वीडियो के जरिए राजनेताओं को निशाना बनाया गया। वाई.एस. शर्मिला और मध्य प्रदेश के पूर्व मुख्यमंत्री शिवराज सिंह चौहान जैसे राजनेताओं की गलत तस्वीर डीपफेक के जरिए पेश की गईं, जो एक संभावित खतके के रूप में उभरीं।अगले साल होने वाले लोकसभा चुनावों के साथ डीपफेक के संभावित दुरुपयोग की वजह से स्थिति की गंभीरता ने कानून निर्माताओं और तकनीकी विशेषज्ञों का ध्यान अपनी तरफ खींचा है।

डॉ. पवन दुग्गल, साइबर सुरक्षा कानून पर अंतरराष्ट्रीय आयोग के संस्थापक और अध्यक्ष: ये एक नई उभरती हुई तकनीक है, लेकिन फिर ये बहुत तेजी से लोगों के जीवन का एक छोटा सा हिस्सा बन रही है और ज्यादा से ज्यादा लोग ना केवल साइबर अपराधियों के लिए बल्कि चुनाव प्रक्रियाओं समेत हर तरह की मानवीय गतिविधियों में डीपफेक का इस्तेमाल करने जा रहे हैं। डीपफेक केवल अमीरों और मशहूर हस्तियों के लिए नहीं है, इसलिए आपको अपने बारे में डीपफेक बनाने के लिए रश्मिका मंदाना, कैटरीना कैफ या आलिया भट्ट बनने की जरूरत नहीं है। बहुत जल्दी आपको ये एहसास होना शुरू हो जाएगा कि इंटरनेट के सामान्य उपयोगकर्ताओं के बारे में भी डीपफेक बातें होंगी। अब क्योंकि आप आगे बढ़ सकते हैं और बहुत सारे फ्री टूल उपलब्ध होने पर डीपफेक बना सकते हैं, हम साइबर इकोसिस्टम में डेटा स्ट्रीम में कहीं ज्यादा जहर देखने जा रहे हैं। पहले से ही हम अश्लील वेबसाइटों और पोर्ट पर बहुत सारे डीपफेक वीडियो देख रहे हैं, ये एक बड़ी चुनौती बनने जा रही है।”

राजीव चंद्रशेखर, सूचना एवं प्रौद्योगिकी राज्यमंत्री:डीपफेक और गलत सूचनाएं हमारे जैसे बड़े जुड़े हुए देश और दुनिया के सबसे बड़े लोकतंत्र के लिए निश्चित रूप से सुरक्षित, स्वतंत्र और निष्पक्ष चुनाव कराने के लिए एक मुद्दा है।”
पंकित देसाई, सह-संस्थापक और सीईओ, सेक्यूरटेक:सरकार इस बात पर कायम है कि नियम बनाने की जरूरत है। भारत सरकार ने डेटा प्राइवेसी एक्ट को लागू किया। अब इसे लोगों और संस्थाओं की सुरक्षा के लिए एआई और डीपफेक के संभावित दुरुपयोग को शामिल करने के लिए पूरी दुनिया में इस पर चर्चा की जानी चाहिए।