केंद्र ने ग्रोक एआई पर अश्लील, यौन रूप से स्पष्ट सामग्री पर एलन मस्क के नेतृत्व वाली एक्स को सख्त नोटिस जारी किया

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने एक्स (जिसे पहले ट्विटर के नाम से जाना जाता था) को सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत अनिवार्य परिश्रम आवश्यकताओं को पूरा करने में विफलता के लिए कड़ी फटकार लगाई है। मंत्रालय ने मांग की है कि मंच 72 घंटों के भीतर एक कार्रवाई रिपोर्ट प्रस्तुत करे, जिसमें इसके अनुपालन उपायों, इसके मुख्य अनुपालन अधिकारी द्वारा पूरी की गई जिम्मेदारियों और भारतीय नागरिक सुरक्षा के तहत अनिवार्य रिपोर्टिंग मानदंडों के पालन का विवरण हो। संहिता, 2023.

सरकार ने अश्लील एआई सामग्री बनाने के लिए ग्रोक के दुरुपयोग को चिह्नित किया

MeitY ने उन रिपोर्टों पर गहरी चिंता व्यक्त की है कि एक्स के एआई टूल ग्रोक का उपयोग महिलाओं के लिए अश्लील और यौन रूप से स्पष्ट सामग्री उत्पन्न करने के लिए किया जा रहा है। मंत्रालय के अनुसार, उपयोगकर्ताओं ने अपमानजनक तरीके से सिंथेटिक चित्र और वीडियो बनाने के लिए एआई प्रणाली में हेरफेर किया है, जिससे गोपनीयता के उल्लंघन और महिलाओं की गरिमा के बारे में गंभीर सवाल खड़े हो गए हैं। अधिकारियों ने चेतावनी दी कि इस तरह की प्रथाएं उत्पीड़न को सामान्य बनाती हैं और कानूनी सुरक्षा से गंभीर रूप से समझौता करती हैं।

मंत्रालय ने एक्स को गैरकानूनी सामग्री के किसी भी निर्माण या प्रसार को रोकने के लिए ग्रोक के तकनीकी सुरक्षा उपायों और शासन प्रक्रियाओं की तुरंत समीक्षा करने और उनमें सुधार करने का निर्देश दिया है। इसने उपयोगकर्ता नीतियों को सख्ती से लागू करने की आवश्यकता पर भी जोर दिया, जिसमें मानदंडों का उल्लंघन करने वाले खातों को निलंबित करने या समाप्त करने जैसी कड़ी कार्रवाई भी शामिल है। मंत्रालय ने निर्देश दिया कि सभी आपत्तिजनक सामग्री को सबूतों से छेड़छाड़ किए बिना तुरंत हटा दिया जाना चाहिए।

गैर-अनुपालन से एक्स को उसकी सुरक्षित बंदरगाह स्थिति से वंचित होना पड़ सकता है

नोटिस में चेतावनी दी गई है कि अनुपालन में विफलता के परिणामस्वरूप एक्स को आईटी अधिनियम की धारा 79 के तहत अपनी सुरक्षित बंदरगाह सुरक्षा खोनी पड़ सकती है। मंत्रालय ने भारतीय न्याय संहिता, महिलाओं का अश्लील प्रतिनिधित्व अधिनियम और यौन अपराधों से बच्चों का संरक्षण अधिनियम सहित कई कानूनों के तहत संभावित कानूनी जोखिम पर भी प्रकाश डाला। संचार को कई मंत्रालयों, आयोगों और राज्य प्राधिकरणों के साथ साझा किया गया है, जो एआई-सहायता प्राप्त अश्लीलता को रोकने के लिए एक समन्वित प्रयास का संकेत देता है।

प्रियंका चतुवेर्दी ने चिंताजनक प्रवृत्ति का संकेत दिया

इससे पहले दिन में, शिवसेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने एक्स पर एआई उपकरणों के बढ़ते दुरुपयोग पर चिंता व्यक्त करते हुए केंद्र से तेजी से कार्रवाई करने का आग्रह किया। आईटी मंत्री अश्विनी वैष्णव को लिखे पत्र में, उन्होंने इस बात पर प्रकाश डाला कि एक परेशान करने वाला पैटर्न सामने आया है जहां पुरुष फर्जी खातों का उपयोग कर रहे हैं और महिलाओं को कामुक बनाने के लिए ग्रोक का उपयोग करके उनकी तस्वीरों में हेरफेर कर रहे हैं।

उन्होंने लिखा, “यह केवल फर्जी खातों के माध्यम से तस्वीरें साझा करने तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो अपनी तस्वीरें पोस्ट करती हैं। यह अस्वीकार्य है और अल फ़ंक्शन का घोर दुरुपयोग है। मैं आईटी और संचार पर स्थायी समिति के एक सक्रिय सदस्य के रूप में आपको पत्र लिखकर आग्रह करती हूं कि एक मंत्री के रूप में आप इसे एक्स के साथ दृढ़ता से उठाएं ताकि यह सुनिश्चित किया जा सके कि प्लेटफॉर्म को महिलाओं के लिए एक सुरक्षित स्थान बनाने के लिए उनके एआई ऐप्स में सुरक्षा उपाय बनाए गए हैं।”

यह भी पढ़ें: एलन मस्क की ग्रोक एआई को बाल सुरक्षा चिंताओं और स्पष्ट सामग्री संबंधी समस्याओं का सामना करना पड़ रहा है