फर्जी AI वीडियो बनाकर ठगी की कोशिश, ADGP को बनाया निशाना

नई दिल्ली: केरलम के एक वरिष्ठ पुलिस अधिकारी की तस्वीर और आवाज से छेड़छाड़ कर फर्जी AI वीडियो बनाने और उसके जरिए ठगी की कोशिश का मामला सामने आया है. पुलिस के मुताबिक, सोशल मीडिया पर एक फेसबुक रील शेयर कर लोगों को ठगने की साजिश रची जा रही थी, अब इस मामले में केस दर्ज किया गया है.

फेसबुक रील में एडीजीपी (लॉ एंड ऑर्डर) पी. विजयन को पुलिस वर्दी में दिखाया गया है. पुराने नोटों की बिक्री से जुड़े एक स्कैम को बढ़ावा देने के लिए उनकी तस्वीर और आवाज से छेड़छाड़ की गई है. अधिकारियों ने बताया कि फर्जी एआई-जनरेटेड वीडियो में दावा किया गया है कि इसके लिए कोई रजिस्ट्रेशन फीस नहीं देनी होगी और लोग 25 लाख रुपये तक कमाए जा सकते हैं.

बता दें, आजकल सोशल मीडिया पर डीपफेक और एआई वीडियोज काफी फैल रहे हैं. असली और नकली में पहचान करना मुश्किल होता जा रहा है. सोशल मीडिया पर कई बार किसी नेता, अभिनेता या आम इंसान को ऐसी बातें करते हुए दिखाया जा रहा है जो उसने कभी कही ही नहीं.

ऐसे फर्जी एआई-जनरेटेड वीडियो को लेकर सरकार भी लगातार चिंता जता रही है. सरकार ने पहले भी इसे लेकर सख्ती जताई थी, लेकिन अब तक कोई टेक कंपनी सुनने का नाम नहीं ले रही है. अभी भी AI वीडियोज पर सिंथेटिक कंटेंट का लेबल नहीं देखने को मिलता है और ना ही तीन घंटे में कोई प्लेटफॉर्म कंटेंट हटाता है.

पीआईबी की एक प्रेस रिलीज के मुताबिक इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने जानकारी दी है कि 10 फरवरी 2026 से आईटी रूल्स में बदलाव किए गए हैं. इस बदलाव की वजह से एआई से बनने वाले डीपफेक और दूसरे सिंथेटिक कंटेंट पर रोक लगाई जा सकेगी.