नई दिल्ली। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एलन मस्क के स्वामित्व वाली ग्रोक एआई पर आपत्तिजनक सामग्री को बढ़ावा देने के बेहद गंभीर आरोप लगे हैं। आरोप है कि उसने इस फीचर को बंद किए जाने से पहले कुछ ही दिनों में महिलाओं और बच्चों की 25 लाख से अधिक यौन रूप से आपत्तिजनक तस्वीरें बनाईं।
दरअसल, एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म ‘X’ के एआई चैटबॉट, ग्रोक पर कोई भी व्यक्ति महिलाओं या बच्चों की असली तस्वीरों को बदलने के लिए कह सकता था। इसकी प्रक्रिया बहुत सिंपल है। ऐसे में ग्रोक एआई के इस टूल ने आक्रोश बैदा कर दिया है।
सार्वजनिक रूप से साझा की तस्वीरें
इतना ही नहीं, ये तस्वीरें सार्वजनिक रूप से साझा की गईं, जिसका मतलब था कि लाखों लोग इन आपत्तिजनक तस्वीरों को देख सकते थे। क्योंकि, नया एआई टूल X ऐप में शामिल किया गया था, जिसका मतलब था कि लाखों लोग बिना किसी रोक-टोक के किसी की भी तस्वीर पर इस फीचर का इस्तेमाल कर सकते थे।
विरोध के बाद पूछताछ
ग्रोक पर यह सिलसिला लगातार कुछ दिनों तक चलता रहा। बड़े पैमाने पर विरोध के बाद विभिन्न सरकारी अधिकारियों ने हस्तक्षेप किया और कंपनी से उसके गैर-जिम्मेदाराना और कानूनी रूप से पूछताछ की। इसमें महिलाओं और बच्चों की बिना सहमति के तस्वीरें बनाना भी शामिल था।
‘सेंटर फॉर काउंटरिंग डिजिटल हेट’ (CCDH) की हालिया रिपोर्ट के अनुसार, ग्रोक एआई ने अपने इमेज एडिटिंग फीचर के जरिए कुछ ही दिनों में बिकनी और अन्य आपत्तिजनक तरीके की महिलाओं की लगभग 3 मिलियन छवियां उत्पन्न करने का रिकॉर्ड दर्ज किया गया है। CCDH का दावा है कि इनमें से 23,000 तस्वीरें बच्चों की थीं।
वहीं, इसको लेकर एलन मस्क ने एक पोस्ट में कहा था कि उन्हें ग्रोक द्वारा बनाई गई किसी भी नग्न नाबालिग छवि के बारे में कोई भी जानकारी बिल्कुल नहीं है।