हैदराबाद साइबर क्राइम पुलिस ने प्रधानमंत्री नरेंद्र मोदी के कथित AI मॉर्फ्ड वीडियो से जुड़े मामले में Meta India के हेड अरुण श्रीनिवास समेत कई सोशल मीडिया अकाउंट हैंडलर्स के खिलाफ FIR दर्ज की है। यह वीडियो जंतर-मंतर पर हुए प्रदर्शन के दौरान सोशल मीडिया पर शेयर किया गया था।
पुलिस ने भाजपा कार्यकर्ताओं की शिकायत पर दो अलग-अलग मामले दर्ज किए हैं। दोनों मामलों में अरुण श्रीनिवास को सह-आरोपी बनाया गया है। वहीं, वीडियो को सोशल मीडिया अकाउंट्स से शेयर करने वाले लोगों को भी आरोपी बनाया गया है।
वीडियो के सोर्स की जांच
पुलिस अब कथित AI मॉर्फ्ड वीडियो बनाने वाले, उसे सबसे पहले अपलोड करने वाले और फिर वायरल करने वालों की पहचान करने में जुटी है। इसके साथ ही फेसबुक और इंस्टाग्राम पर फर्जी और आपत्तिजनक कंटेंट को रोकने के लिए Meta के कंटेंट मॉडरेशन सिस्टम और सुरक्षा उपायों की भी जांच की जा रही है।
जांच अधिकारियों के मुताबिक यह पता लगाने की कोशिश की जा रही है कि क्या प्लेटफॉर्म का सिस्टम ऐसे कंटेंट को समय रहते पहचानकर रोक सकता था या नहीं। पुलिस वीडियो के सोर्स और इससे जुड़े पूरे नेटवर्क की भी पड़ताल कर रही है।
Meta को भेजा गया नोटिस
जांच अधिकारी के अनुसार, शिकायत में दिए गए आपत्तिजनक लिंक को लेकर Meta को नोटिस भेजा गया है। पुलिस आरोपियों की पहचान और गिरफ्तारी के लिए जरूरी जानकारी जुटा रही है।
FIR दर्ज होने से पहले भी Meta के अधिकारियों को समन भेजकर AI जनरेटेड स्कैम, फर्जी विज्ञापनों और मॉर्फ्ड कंटेंट की पहचान व उसे हटाने की प्रक्रिया के बारे में जवाब मांगा गया था। FIR के बाद कंपनी के प्रतिनिधि जांच में शामिल हुए और पुलिस को कंटेंट मॉडरेशन व कंप्लायंस सिस्टम से जुड़ी जानकारी दी।हालांकि, Meta की ओर से इस मामले में अभी तक कोई सार्वजनिक बयान सामने नहीं आया है।
पहले भी विवादों में रहा Meta
यह कार्रवाई ऐसे समय हुई है जब हाल ही में Instagram और Facebook पर प्रधानमंत्री मोदी की एक पोस्ट कुछ समय के लिए हट गई थी। बाद में Meta ने इसे AI मॉडरेशन सिस्टम की तकनीकी गड़बड़ी बताते हुए पोस्ट बहाल कर दी थी।
केंद्र सरकार ने Meta के इस स्पष्टीकरण पर असंतोष जताते हुए कंपनी से विस्तृत जवाब मांगा था। सरकार का कहना था कि इसे केवल तकनीकी गलती बताना पर्याप्त नहीं है।
क्या होता है AI मॉर्फ्ड या डीपफेक वीडियो?
AI और डीपफेक तकनीक के जरिए किसी व्यक्ति के चेहरे, आवाज और हाव-भाव की नकल करके फर्जी वीडियो तैयार किया जा सकता है। ऐसे वीडियो देखने में काफी हद तक वास्तविक लग सकते हैं और इनका इस्तेमाल लोगों को गुमराह करने, फर्जी प्रचार करने या किसी व्यक्ति की छवि खराब करने के लिए किया जा सकता है।
ऐसे मामलों में परिस्थितियों के आधार पर आईटी एक्ट और भारतीय न्याय संहिता (BNS) के तहत कार्रवाई हो सकती है।
किसी भी थाने में दर्ज हो सकती है Zero FIR
Zero FIR किसी भी पुलिस थाने में दर्ज कराई जा सकती है, भले ही घटना उस थाने के अधिकार क्षेत्र में न हुई हो। शिकायत दर्ज होने के बाद FIR को जांच के लिए संबंधित थाने में भेज दिया जाता है। इससे शिकायतकर्ता को तुरंत मामला दर्ज कराने की सुविधा मिलती है।
