नई दिल्ली। सोशल मीडिया प्लेटफॉर्म X ने कंटेंट मॉडरेशन में अपनी गलती मान ली है। कंपनी ने कहा कि वह पोर्नोग्राफिक इमेज बनाने पर पूरी तरह से बैन लगाएगी और भारतीय कानूनों का पालन करेगी। सूत्रों के मुताबिक, पोर्नोग्राफिक कंटेंट वायरल होने के बाद यह फैसला लिया गया। प्लेटफॉर्म ने कहा कि उसने 3,500 से ज़्यादा कंटेंट ब्लॉक किए हैं और 600 से ज़्यादा अकाउंट डिलीट किए हैं।
Thank you for reading this post, don't forget to subscribe!दरअसल, शिवसेना (UBT) MP प्रियंका चतुर्वेदी ने 2 जनवरी को IT मिनिस्टर को AI चैटबॉट Grok के गलत इस्तेमाल के बारे में एक लेटर लिखा था। इसके बाद, केंद्र सरकार ने उसी दिन X से AI ऐप Grok द्वारा बनाए जा रहे अश्लील और भद्दे कंटेंट को तुरंत हटाने को कहा, ऐसा न करने पर कानूनी कार्रवाई की जाएगी।
X ने कहा, “भारत हमारे लिए एक बड़ा मार्केट”
X ने इस एक्शन की घोषणा करते हुए कहा कि भारत हमारे लिए एक बड़ा मार्केट है। कंपनी ने कहा कि वह यहां के नियमों का सम्मान करेगी। इस कदम से कंटेंट मॉडरेशन मजबूत होगा।
प्रियंका चतुर्वेदी ने उठाई थी आपत्ति
राज्यसभा MP प्रियंका चतुर्वेदी ने शनिवार को इस मामले को लेकर X पर एक और पोस्ट किया। उन्होंने लिखा कि सोशल मीडिया प्लेटफॉर्म X ने Grok के ज़रिए आपत्तिजनक और सेक्शुअल इमेज बनाने को पूरी तरह से ब्लॉक करने के बजाय सिर्फ़ पेड यूज़र्स तक ही सीमित कर दिया है। उन्होंने आरोप लगाया कि इस कदम से महिलाओं और बच्चों की इमेज का बिना इजाज़त गलत इस्तेमाल हो रहा है, जिससे वे खतरे में हैं। उन्होंने कहा कि प्लेटफॉर्म गलत व्यवहार से पैसे कमा रहा है, जो शर्मनाक है।
मस्क ने कहा, “ज़िम्मेदारी यूज़र की है, टूल की नहीं”
इससे पहले, X के मालिक एलन मस्क ने 3 जनवरी को कहा था कि कुछ लोग कह रहे हैं कि Grok आपत्तिजनक इमेज बना रहा है, लेकिन यह कुछ बुरा लिखने के लिए पेन को दोष देने जैसा है। पेन यह तय नहीं करता कि क्या लिखा जाएगा। जो इसे पकड़ता है, वह ऐसा करता है।
मस्क ने कहा कि Grok भी इसी तरह काम करता है। आपको क्या मिलता है, यह काफी हद तक इस बात पर निर्भर करता है कि आप क्या इनपुट देते हैं। क्योंकि ज़िम्मेदारी टूल की नहीं, बल्कि उसे इस्तेमाल करने वाले की होती है।
शिवसेना (UBT) MP प्रियंका चतुर्वेदी ने 2 जनवरी को IT मिनिस्टर अश्विनी वैष्णव को AI चैटबॉट Grok के गलत इस्तेमाल के बारे में एक लेटर लिखा। सोशल मीडिया, खासकर ट्विटर पर AI Grok फ़ीचर का गलत इस्तेमाल हो रहा है। कुछ आदमी फेक अकाउंट बनाकर महिलाओं की फ़ोटो पोस्ट कर रहे हैं और AI से कपड़े छोटे दिखाने या फ़ोटो को गलत तरीके से दिखाने के लिए कह रहे हैं। यह सिर्फ़ फेक अकाउंट तक ही सीमित नहीं है; जो महिलाएं अपनी फ़ोटो शेयर करती हैं, उन्हें भी टारगेट किया जा रहा है। यह बहुत गलत है और AI का गंभीर गलत इस्तेमाल है।
सबसे ज़्यादा चिंता की बात यह है कि Grok ऐसी गलत मांगों को मान रहा है। यह महिलाओं की प्राइवेसी का उल्लंघन करता है और बिना इजाज़त के उनकी तस्वीरों का इस्तेमाल करता है। यह सिर्फ़ गलत ही नहीं, बल्कि एक जुर्म है।
About the Author
