नई दिल्ली। Grok AI: एलन मस्क की X ने ग्रोक AI का इस्तेमाल करके असली लोगों की पोर्नोग्राफिक यानी अश्लील इमेज बनाने पर दुनिया भर में बैन लगा दिया है। यह फैसला AI-पावर्ड चैटबॉट द्वारा महिलाओं और बच्चों की तस्वीरों के गलत इस्तेमाल की शिकायतों के बाद लिया गया।
Thank you for reading this post, don't forget to subscribe!यूज़र्स अब इस टूल का इस्तेमाल असली लोगों की ऐसी तस्वीरें बनाने के लिए नहीं कर पाएंगे जो आपत्तिजनक हों या उन्हें छोटे कपड़ों में दिखाएं। यह रोक पेड और अनपेड दोनों तरह के यूज़र्स पर लागू होती है।
पोर्नोग्राफिक फोटो एडिटिंग पर पूरी तरह बैन
X के सेफ्टी अकाउंट ने गुरुवार को इस बदलाव की घोषणा करते हुए कहा कि उन्होंने टेक्निकल बदलाव किए हैं जो ग्रोक को असली लोगों की न्यूड तस्वीरें बनाने से रोकेंगे। बिकिनी जैसे कपड़ों की चीज़ों की एडिटिंग पर पूरी तरह बैन लगा दिया गया है।
कंपनी ने कहा कि यह बदलाव यह पक्का करने के लिए किया गया था कि प्राइवेसी का उल्लंघन न हो और प्लेटफॉर्म का इस्तेमाल किसी को परेशान करने के लिए न किया जा सके।
जांच महिलाओं की शिकायतों के साथ शुरू हुई।
पिछले साल दिसंबर में, कई महिलाओं ने X से शिकायत की थी कि ग्रोक के ज़रिए उनकी तस्वीरों का इस्तेमाल सेक्शुअली एक्सप्लिसिट इमेज बनाने के लिए किया जा रहा है। IT मिनिस्ट्री के साइबर लॉ डिवीज़न ने X को IT रूल्स 2021 के तहत कंटेंट हटाने का निर्देश दिया।
दरअसल, कुछ यूज़र्स सोशल मीडिया प्लेटफॉर्म X पर फेक अकाउंट बनाते हैं। वे इन अकाउंट से महिलाओं की फोटो पोस्ट करते हैं। फिर Grok AI को महिलाओं की फोटो को गलत और आपत्तिजनक तरीके से दिखाने के लिए कहा जाता है।
AI को कपड़े बदलने या फोटो को सेक्सुअल तरीके से दिखाने जैसे इशारे दिए जाते हैं। इन फोटो के लिए महिलाओं से कोई परमिशन नहीं ली जाती। कई बार तो महिलाओं को खुद भी पता नहीं होता कि उनकी फोटो का इस तरह इस्तेमाल किया जा रहा है। आरोप है कि Grok ऐसे गलत रिक्वेस्ट को रोकने के बजाय बस मान लेता है।
भारत में 3,500 फोटो हटाई गईं, 600 यूज़र्स बैन किए गए
X ने भारत सरकार को सौंपी अपनी एक्शन रिपोर्ट में कहा कि उसने भारत में Grok का इस्तेमाल करके बनाई गई लगभग 3,500 आपत्तिजनक और पोर्नोग्राफिक फोटो हटा दी हैं। इसके अलावा, कंपनी ने ऐसे 600 यूजर्स की पहचान करके उन्हें प्लेटफॉर्म से हटा दिया है, जो बार-बार AI चैटबॉट का गलत इस्तेमाल कर रहे थे।
मस्क ने कहा, “ज़िम्मेदारी यूज़र की है, टूल की नहीं।”
इससे पहले, X के मालिक एलन मस्क ने कहा था कि कुछ लोग कह रहे हैं कि Grok आपत्तिजनक फ़ोटो बनाता है, लेकिन यह कुछ बुरा लिखने के लिए पेन को दोष देने जैसा है। पेन यह तय नहीं करता कि क्या लिखा जाए; इसे पकड़ने वाला व्यक्ति यह तय करता है।
मस्क ने कहा कि Grok भी इसी तरह काम करता है। आपको जो मिलता है वह काफी हद तक इस बात पर निर्भर करता है कि आप इसमें क्या डालते हैं। क्योंकि जिम्मेदारी यूजर की है, टूल की नहीं।
About the Author
