एबीसी नेशनल न्यूज | 15 जनवरी 2026
Elon Musk की आर्टिफिशियल इंटेलिजेंस कंपनी xAI ने अपने AI चैटबॉट Grok को लेकर बड़ा फैसला लिया है। कंपनी ने घोषणा की है कि अब Grok का इस्तेमाल करने वाले सभी यूज़र्स के लिए इमेज एडिटिंग की सुविधाओं पर कड़े प्रतिबंध लगाए गए हैं। यह कदम तब उठाया गया, जब Grok से ऐसी तस्वीरें तैयार या एडिट की गईं, जिन्हें कई देशों के नियामकों ने अश्लील और आपत्तिजनक बताया। इन तस्वीरों के सामने आने के बाद दुनियाभर में चिंता बढ़ गई और AI के गलत इस्तेमाल को लेकर गंभीर सवाल खड़े हो गए।
xAI के मुताबिक, Grok से बनी कुछ तस्वीरें ऐसी थीं, जिनमें इंसानों को यौन रूप से गलत और असंवेदनशील तरीके से दिखाया गया। इससे न केवल नैतिकता का मुद्दा उठा, बल्कि बच्चों की सुरक्षा, महिलाओं की गरिमा और डिजिटल प्लेटफॉर्म की जिम्मेदारी जैसे सवाल भी सामने आए। कई देशों के नियामक संस्थानों ने इस पर कड़ी नाराज़गी जताई और AI कंपनियों से जवाबदेही तय करने की मांग की। इसी दबाव और वैश्विक चिंता को देखते हुए xAI ने तुरंत कदम उठाते हुए इमेज एडिटिंग से जुड़े फीचर्स को सीमित करने का फैसला किया।
कंपनी का कहना है कि अब Grok के ज़रिए तस्वीरों में ऐसा कोई बदलाव नहीं किया जा सकेगा, जिससे किसी व्यक्ति को यौन रूप से भड़काऊ, अपमानजनक या आपत्तिजनक तरीके से पेश किया जाए। xAI ने साफ किया कि वह AI की आज़ादी और रचनात्मकता के साथ-साथ सामाजिक जिम्मेदारी को भी उतनी ही गंभीरता से लेती है। कंपनी के अनुसार, तकनीक का मकसद लोगों की मदद करना है, न कि नुकसान पहुंचाना या समाज में गलत संदेश फैलाना।
यह मामला सिर्फ Grok या xAI तक सीमित नहीं है, बल्कि पूरी दुनिया में AI के बढ़ते इस्तेमाल पर एक बड़ी बहस को जन्म देता है। सवाल यह है कि जब AI इतनी ताकतवर हो चुकी है कि वह तस्वीरें, वीडियो और कंटेंट बना सकती है, तो उसकी सीमाएं कौन तय करेगा? विशेषज्ञों का मानना है कि आने वाले समय में AI कंपनियों को और सख्त नियम बनाने होंगे, ताकि तकनीक इंसान के हित में काम करे और किसी भी तरह के दुरुपयोग को रोका जा सके। Grok पर लगी यह रोक इसी दिशा में उठाया गया एक अहम कदम माना जा रहा है।
