यह मुद्दा तब सामने आया जब सोशल मीडिया प्लेटफॉर्म
सरकारी सूत्रों ने रविवार (11 जनवरी) को कहा कि सोशल मीडिया प्लेटफॉर्म एक्स ने अपनी सामग्री मॉडरेशन प्रथाओं में खामियों को स्वीकार किया है और अपनी गलती स्वीकार की है। कंपनी ने अधिकारियों को आश्वासन दिया है कि वह भारतीय कानूनों और विनियमों के अनुसार सख्ती से काम करेगी।
यह कार्रवाई प्लेटफ़ॉर्म पर अश्लील और स्पष्ट यौन सामग्री के प्रसार पर चिंताओं के बाद की गई है, जिनमें से कुछ कथित तौर पर इसके एआई टूल, ग्रोक के माध्यम से उत्पन्न या प्रवर्धित किया गया था। जवाब में, एक्स ने लगभग 3,500 सामग्री को ब्लॉक कर दिया है और 600 से अधिक खाते हटा दिए हैं।
एक्स ने आगे कहा कि वह आगे चलकर प्लेटफॉर्म पर अश्लील चित्रण की अनुमति नहीं देगा, जो भारत में कंटेंट मॉडरेशन के लिए सख्त दृष्टिकोण का संकेत देता है।
सरकार ने एक्स से विशिष्ट कार्रवाई के लिए कहा था
इससे पहले 7 जनवरी को, सरकार ने एक्स से अधिक विवरण मांगा था, जिसमें उसके ग्रोक एआई से जुड़ी अश्लील सामग्री पर की गई विशिष्ट कार्रवाई और भविष्य में पुनरावृत्ति को रोकने के लिए कदम शामिल थे, सूत्रों ने कहा कि फर्म द्वारा प्रस्तुत प्रतिक्रिया, हालांकि विस्तृत थी, पर्याप्त नहीं थी।
यह कदम एलोन मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म द्वारा महिलाओं की कामुक और अश्लील छवियों के निर्माण के लिए कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक के दुरुपयोग पर रोक लगाने के केंद्र के निर्देश पर आईटी मंत्रालय को सौंपे जाने के बाद आया है।
सूत्रों ने समाचार एजेंसी पीटीआई को बताया कि आईटी मंत्रालय ने एक्स से अधिक विवरण मांगा है, जिसमें ग्रोक एआई से जुड़ी अश्लील सामग्री पर की गई विशिष्ट कार्रवाई और भविष्य में इसे रोकने के लिए कदम शामिल हैं। उन्होंने कहा कि बुधवार को एक्स द्वारा प्रस्तुत प्रतिक्रिया “विस्तृत, लेकिन पर्याप्त नहीं” थी।
सूत्रों ने कहा कि एक्स ने एक विस्तृत जवाब दिया है, जिसमें कहा गया है कि वह भारतीय कानूनों और सभी दिशानिर्देशों का सम्मान करता है, और भारत मंच के लिए एक बड़ा बाजार है। अपनी प्रतिक्रिया में, इसने सख्त सामग्री निष्कासन नीतियों को भी रेखांकित किया जिसका पालन यह भ्रामक जानकारी और गैर-सहमति वाली यौन छवियों से संबंधित जानकारी के मामले में करता है।
उन्होंने कहा कि जवाब विस्तृत होने के बावजूद, महत्वपूर्ण जानकारी छूट गई, जिसमें ग्रोक एआई अश्लील सामग्री मुद्दे पर उठाए गए विशिष्ट कदम भी शामिल हैं।
केंद्र ने एलन मस्क की अगुवाई वाली एक्स को सख्त नोटिस जारी किया
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत अनिवार्य परिश्रम आवश्यकताओं को पूरा करने में विफलता के लिए एक्स को कड़ी फटकार लगाई है। मंत्रालय ने मांग की है कि मंच 72 घंटों के भीतर एक कार्रवाई रिपोर्ट प्रस्तुत करे, जिसमें इसके अनुपालन उपायों, इसके मुख्य अनुपालन अधिकारी द्वारा पूरी की गई जिम्मेदारियों और भारतीय नागरिक सुरक्षा संहिता के तहत अनिवार्य रिपोर्टिंग मानदंडों के पालन का विवरण हो। 2023.
MeitY ने उन रिपोर्टों पर गहरी चिंता व्यक्त की है कि एक्स के एआई टूल ग्रोक का उपयोग महिलाओं के लिए अश्लील और यौन रूप से स्पष्ट सामग्री उत्पन्न करने के लिए किया जा रहा है। मंत्रालय के अनुसार, उपयोगकर्ताओं ने अपमानजनक तरीके से सिंथेटिक चित्र और वीडियो बनाने के लिए एआई प्रणाली में हेरफेर किया है, जिससे गोपनीयता के उल्लंघन और महिलाओं की गरिमा के बारे में गंभीर सवाल खड़े हो गए हैं। अधिकारियों ने चेतावनी दी कि इस तरह की प्रथाएं उत्पीड़न को सामान्य बनाती हैं और कानूनी सुरक्षा से गंभीर रूप से समझौता करती हैं।
मंत्रालय ने एक्स को गैरकानूनी सामग्री के किसी भी निर्माण या प्रसार को रोकने के लिए ग्रोक के तकनीकी सुरक्षा उपायों और शासन प्रक्रियाओं की तुरंत समीक्षा करने और उनमें सुधार करने का निर्देश दिया है। इसने उपयोगकर्ता नीतियों को सख्ती से लागू करने की आवश्यकता पर भी जोर दिया, जिसमें मानदंडों का उल्लंघन करने वाले खातों को निलंबित करने या समाप्त करने जैसी कड़ी कार्रवाई भी शामिल है। मंत्रालय ने निर्देश दिया कि सभी आपत्तिजनक सामग्री को सबूतों से छेड़छाड़ किए बिना तुरंत हटा दिया जाना चाहिए।
यह भी पढ़ें: ग्रोक विवाद: एक्स ने महिलाओं, बच्चों के यौन रूप से स्पष्ट डीपफेक पर भारतीय आईटी मंत्रालय के नोटिस का जवाब दिया
यह भी पढ़ें: केंद्र ने ग्रोक एआई पर अश्लील, यौन रूप से स्पष्ट सामग्री पर एलोन मस्क के नेतृत्व वाली एक्स को सख्त नोटिस जारी किया