Grok ने अश्लील कंटेंट रोकने के लिए क्या किया: IT मंत्रालय ने कहा- X के जवाब अधूरे, पूरा एक्शन प्लान बताएं

बिजनेस डेस्क। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X से AI टूल Grok से जुड़े अश्लील कंटेंट के खिलाफ कार्रवाई की स्पष्ट जानकारी मांगी है। मंत्रालय ने इलॉन मस्क के X प्लेटफॉर्म को लेटर लिखा है। ऐसा इसलिए किया गया क्योंकि X ने पहले वाले नोटिस का जवाब तो दिया, लेकिन इसमें कई अहम सवालों के जवाब नहीं थे। सरकारी अधिकारियों का कहना है कि अधूरे और अपर्याप्त जवाब दिए गए। 

वे चाहते हैं कि X ये बताए कि कितना अश्लील कंटेंट हटाया गया, गलत करने वाले यूजर्स पर क्या कार्रवाई हुई। साथ ही भविष्य में इस तरह के मिसयूज को रोकने के लिए क्या ठोस कदम उठाए जाएंगे।

X ने कहा- भारतीय कानून, गाइडलाइंस का सम्मान करते हैं
न्यूज एजेंसी PTI के मुताबिक, X ने अपनी सफाई में कहा कि भारतीय कानून और गाइडलाइंस का सम्मान करता है। भारत को अपने लिए एक बहुत महत्वपूर्ण बाजार मानता है। प्लेटफॉर्म ने अपनी पॉलिसी का भी जिक्र किया, जिसके तहत वो गलत या भ्रामक कंटेट और बिना सहमति के बनाई गई अश्लील तस्वीरों को हटाता है।

हालांकि सरकार X के रिप्लाई से संतुष्ट नहीं है। अब IT मंत्रालय ने X से फॉर्मली पूरी जानकारी मांगी है। इसमें सटीक संख्या बतानी है कि कितने पोस्ट हटाए गए, क्या कार्रवाई की गई और भविष्य में सुरक्षा के लिए क्या कदम उठाए जाएंगे। X को तुरंत जवाब देने को कहा गया है।

X के ऑफिशियल अकाउंट से अभी तक कोई पब्लिक स्टेटमेंट नहीं आया है। इससे पहले ग्रोक और ऐसे ही AI टूल्स से बने अश्लील कंटेंट पर सख्त चेतावनी के बाद X को बुधवार शाम तक एक्शन टेकन रिपोर्ट देने के लिए अतिरिक्त समय दिया गया था।

AI के दुरुपयोग पर केंद्र सख्त, X को नोटिस
केंद्र सरकार ने 2 जनवरी को AI के दुरुपयोग पर सख्ती दिखाई थी। MeitY ने सोशल मीडिया प्लेटफॉर्म X को नोटिस जारी किया था, जिसमें IT एक्ट और IT नियमों के उल्लंघन के आरोप लगाए गए थे। मंत्रालय ने X की AI सर्विस ‘Grok’ के दुरुपयोग पर गंभीर चिंता जताई थी। ऐसे कंटेंट के अपलोडिंग पर रोक के लिए तत्काल उठाए गए कदमों पर रिपोर्ट मांगी थी। 

दरअसल, ‘Grok’ महिलाओं की आपत्तिजनक फोटो बना रहा है। इस पर शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने IT मिनिस्ट्री को लेटर लिख चिंता जताई थी। प्रियंका ने कहा था कि आज कल सोशल मीडिया प्लेटफॉर्म X पर लोग फर्जी अकाउंट बनाकर महिलाओं की फोटो पोस्ट करते हैं, फिर GROK से कहकर फोटो से कपड़े हटाने की बात करते हैं। यूजर जैसा कहता है, GROK वैसा ही कर देता है। यह बहुत खतरनाक ट्रेंड है।

प्रियंका चतुर्वेदी ने क्या लिखा था
प्रियंका चतुर्वेदी ने IT मिनिस्टर अश्विनी वैष्णव को लेटर में लिखा था- मैं एक सोशल मीडिया ट्रेंड को लेकर आपका ध्यान आकर्षित कराना चाहती हूं। सोशल मीडिया प्लेटफॉर्म X पर AI टूल GROK का गलत इस्तेमाल किया जा रहा। लोग फर्जी ID बनाकर महिलाओं के फोटो पोस्ट करते हैं, फिर उनके कपड़ों को मिनिमाइज करवाते हैं। इसके बाद उन्हें सेक्शुलाइज करते हैं।

जो भी महिलाएं अपनी फोटो पोस्ट करती हैं, उनके लिए यह बहुत बड़ा खतरा है। इसे कतई स्वीकार नहीं किया जा सकता। AI का इससे गलत इस्तेमाल हो नहीं सकता। यह महिलाओं की प्राइवेसी के खिलाफ है। यह सिर्फ अनैतिक नहीं, आपराधिक भी है। मैं उम्मीद करती हूं कि मंत्रालय इस मुद्दे को गंभीरता से लेकर टेक कंपनियों से बात करेगा। भारत AI का स्वागत करता है, लेकिन महिलाओं के खिलाफ अपमानजनक कंटेंट फैलने नहीं दे सकते।

क्या है ये खतरनाक ट्रेंड
दरअसल, आज कल सोशल मीडिया प्लेटफॉर्म X पर कुछ IDs के जरिए महिलाओं की फोटो एडिट करवाई जा रही। GROK से ऐसे प्रॉम्प्ट दिए जा रहे हैं, जिनसे महिलाओं के कपड़ों को घटाकर या बदलकर उनकी सेक्शुअलाइज्ड फोटो बनाई जा रही है।

एलन मस्क की कंपनी ने GROK बनाया
Grok एक AI चैटबॉट है जो सवालों के जवाब देता और इमेज बनाता है। साथ ही रियल-टाइम जानकारी देता है। यह X प्लेटफॉर्म ( ट्विटर) पर अवेलेबल है और मजाकिया-बेबाक अंदाज में बात करता है। GROK को xAI कंपनी ने बनाया है। xAI एलन मस्क की कंपनी है। खास बात यह है कि एलन मस्क ने खुद भी अपनी फोटो एडिट करवाई है। मस्क अपने इस AI चैटबॉट को हर लेवल पर प्रमोट करते हैं।