Grok AI : एलन मस्क के ‘ग्रोक एआई’ का इस्तेमाल करके लोगों ने महिलाओं और बच्चों की जो आपत्तिजनक तस्वीरें बनाईं, उस मामले ने सबको चिंतित किया है। इंडोनेशिया और मलयेशिया समेत कई देशों में ग्रोक एआई को बैन किया जा रहा है।
लेकिन क्या सिर्फ इतना काफी है? ब्रिटिश एआई कंपनी Locai Labs के सीईओ जेम्स ड्रायसन ने बड़ा बयान देते हुए कहा है कि मौजूदा वक्त में कोई भी एआई इमेज जनरेटर पूरी तरह से सुरक्षित नहीं है। उन्होंने कहा कि कोई एआई कंपनी अपने एआई मॉडल को लोगों की न्यूड तस्वीरें बनाने से नहीं रोक सकती।
इन हालात को देखते हुए Locai Labs ने फैसला किया है कि वह अपनी इमेज जनरेशन सुविधा को तब तक नहीं लाएगी, जब तक वह पूरी तरह से सुरक्षित ना हाे जाए। कंपनी ने 18 साल से कम उम्र लोगों को अपने एआई चैटबॉट का इस्तेमाल करने से रोक दिया है।
सच्चाई कहने की दिखाई हिम्मत
टेक रडार की रिपोर्ट के अनुसार, जेम्स ड्रायसन का बयान इसलिए अहम है, क्योंकि उन्होंने सच बोलने की हिम्मत दिखाई है। उन्होंने इंडस्ट्री से इस खतरे को समझने और सच बोलने का अनुरोध किया है। कहा कि इंडस्ट्री को जगाने की जरूरत है। किसी भी एआई कंपनी के लिए यह असंभव है कि वह अपने एआई मॉडल को लेकर वादा करे कि वो कभी कोई ऐसा कंटेंट नहीं बनाएगा जिसमें आपत्तिजनक तस्वीरें हों। उन्होंने माना कि एआई मॉडल होशियार हैं, लेकिन परफेक्ट नहींं।
AI से फोटो बनाने की सुविधा बंद
तमाम हालात को देखते हुए Locai Labs ने अहम फैसला लिया है और अपनी इमेज जनरेशन सुविधा को तब तक के लिए रोक दिया है, जबतक वह पूरी तरह से सेफ हो जाए। कंपनी ने 18 साल कम उम्र के लोगों को अपने एआई चैटबॉट का इस्तेमाल करने से भी मना कर दिया है। वैसे यह कंपनी अभी तक एआई से फोटो बनाने का फीचर नहीं लेकर आई थी, लेकिन अब इस पर लंबे वक्त के लिए रोक लग गई है।
एलन मस्क का एआई झेल रहा मुसीबतें
फोटो जनरेशन फीचर की वजह से एलन मस्क का एआई मुसीबत झेल रहा है। ग्रोक एआई पर आरोप है कि वह बच्चों और महिलाओं की आपत्तिजनक तस्वीरें बना रहा है। हालांकि ग्रोक एआई अकेला ऐसा नहीं है। रिपोर्टों के अनुसार, एआई का ऐसा इस्तेमाल करने वाले यूजर्स चैटजीपीटी और जेमिनी एआई से भी आपत्तिजनक तस्वीरें बनवा रहे हैं। लेकिन जहां तक प्रतिबंध का सवाल है तो उसका सामना ग्रोक एआई को करना पड़ा है। इंडोनेशिया और मलयेशिया ने ग्रोक को बैन किया है। ब्रिटेन के नियामक ‘ऑफकॉम’ ने भी ग्रोक एआई की जांच शुरू की है। बीते दिनों ब्रिटिश प्रधानमंत्री ने संकेत दिए थे कि ग्रोक एआई को बैन किया जा सकता है।