AI के दुरुपयोग पर केंद्र सख्त, X को नोटिस: सांसद ने IT मिनिस्ट्री से कहा था- GROK महिलाओं की आपत्तिजनक फोटो बना रहा, ये बहुत खतरनाक ट्रेंड

नेशनल डेस्क: केंद्र सरकार ने AI के दुरुपयोग पर सख्ती दिखाई है। सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने शुक्रवार को सोशल मीडिया प्लेटफॉर्म X को नोटिस जारी किया है, जिसमें IT एक्ट और IT नियमों के उल्लंघन के आरोप लगाए गए हैं। मंत्रालय ने X की AI सर्विस ‘Grok’ के दुरुपयोग पर गंभीर चिंता जताई है। ऐसे कंटेंट के अपलोडिंग पर रोक के लिए तत्काल उठाए गए कदमों पर रिपोर्ट मांगी है। 

दरअसल, ‘Grok’ महिलाओं की आपत्तिजनक फोटो बना रहा है। इस पर शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने IT मिनिस्ट्री को लेटर लिख चिंता जताई थी। प्रियंका ने कहा कि आज कल सोशल मीडिया प्लेटफॉर्म X पर लोग फर्जी अकाउंट बनाकर महिलाओं की फोटो पोस्ट करते हैं, फिर GROK से कहकर फोटो से कपड़े हटाने की बात करते हैं। यूजर जैसा कहता है, GROK वैसा ही कर देता है। यह बहुत खतरनाक ट्रेंड है।

प्रियंका चतुर्वेदी ने क्या लिखा
प्रियंका चतुर्वेदी ने IT मिनिस्टर अश्विनी वैष्णव को लेटर में लिखा- मैं एक सोशल मीडिया ट्रेंड को लेकर आपका ध्यान आकर्षित कराना चाहती हूं। सोशल मीडिया प्लेटफॉर्म X पर AI टूल GROK का गलत इस्तेमाल किया जा रहा। लोग फर्जी ID बनाकर महिलाओं के फोटो पोस्ट करते हैं, फिर उनके कपड़ों को मिनिमाइज करवाते हैं। इसके बाद उन्हें सेक्शुलाइज करते हैं।

जो भी महिलाएं अपनी फोटो पोस्ट करती हैं, उनके लिए यह बहुत बड़ा खतरा है। इसे कतई स्वीकार नहीं किया जा सकता। AI का इससे गलत इस्तेमाल हो नहीं सकता। यह महिलाओं की प्राइवेसी के खिलाफ है। यह सिर्फ अनैतिक नहीं, आपराधिक भी है। मैं उम्मीद करती हूं कि मंत्रालय इस मुद्दे को गंभीरता से लेकर टेक कंपनियों से बात करेगा। भारत AI का स्वागत करता है, लेकिन महिलाओं के खिलाफ अपमानजनक कंटेंट फैलने नहीं दे सकते।

ये खतरनाक ट्रेंड क्या
दरअसल, आज कल सोशल मीडिया प्लेटफॉर्म X पर कुछ IDs के जरिए महिलाओं की फोटो एडिट करवाई जा रही। GROK से ऐसे प्रॉम्प्ट दिए जा रहे हैं, जिनसे महिलाओं के कपड़ों को घटाकर या बदलकर उनकी सेक्शुअलाइज्ड फोटो बनाई जा रही है।

एलन मस्क की कंपनी ने GROK बनाया
Grok एक AI चैटबॉट है जो सवालों के जवाब देता और इमेज बनाता है। साथ ही रियल-टाइम जानकारी देता है। यह X प्लेटफॉर्म ( ट्विटर) पर अवेलेबल है और मजाकिया-बेबाक अंदाज में बात करता है। GROK को xAI कंपनी ने बनाया है। xAI एलन मस्क की कंपनी है। खास बात यह है कि एलन मस्क ने खुद भी अपनी फोटो एडिट करवाई है। मस्क अपने इस AI चैटबॉट को हर लेवल पर प्रमोट करते हैं।