‘X पर किसी को पहनाई बिकनी तो किसी को…’ जानिए क्या अब सुधर गया Grok AI?

Grok AI : दुनियाभर में आलोचना और भद्द पिटवाने के बाद, सोशल मीडिया प्लेटफॉर्म X (पहले ट्विटर) ने अपने AI चैटबॉट Grok में जरूरी बदलाव किए हैं। यह बदलाव इसलिए किए गए हैं ताकि X पर लोग Grok का इस्तेमाल कर अनुचित और अश्लील तस्वीरें न बना सकें। बता दें कि इससे पहले, AI चैटबॉट Grok के माध्यम से लोग महिलाओं और नाबालिगों की तस्वीरें शेयर कर उनके कपड़े उतारने जैसी आपत्तिजनक सामग्री बना रहे थे।

The Verge की रिपोर्ट के अनुसार, विश्वभर में आलोचना और कार्रवाई की धमकी मिलने के बाद, X ने इस मुद्दे को हल करने के लिए आवश्यक कदम उठाए हैं। हालांकि, टेस्टिंग करने वाले पत्रकारों ने बताया है कि Grok अभी भी अश्लील तस्वीरें बना रहा है।

इससे पहले, X के मालिक एलन मस्क ने कहा था कि वे इस समस्या को ठीक कर रहे हैं। लेकिन रिपोर्ट्स के मुताबिक, टेस्ट में पाया गया है कि Grok अभी भी आसानी से किसी की भी बिना कपड़ों की तस्वीरें बना पा रहा है।

क्या है पूरा मामला?

दरअसल, X के AI चैटबॉट Grok का इस्तेमाल किसी भी व्यक्ति की तस्वीर को अश्लील बनाने के लिए किया जा रहा था। इस अनियंत्रित फीचर का उपयोग ज्यादातर महिलाओं और नाबालिगों की तस्वीरों को लेकर हो रहा था। इन तस्वीरों को डीपफेक कहा जाता है, यानी कि नकली तस्वीरें जो दिखने में बिल्कुल असली लगती हैं। इस खतरनाक फीचर का इस्तेमाल किसी की भी प्रतिष्ठा धूमिल करने या बदनाम करने के लिए किया जा सकता था।

एलन मस्क का कहना था कि ऐसा यूजर्स और हैकर्स की वजह से हो रहा है, लेकिन टेक एक्सपर्ट्स का तर्क है कि बाकी AI टूल्स की तुलना में Grok में अश्लीलता को रोकने के लिए कोई सख्त फिल्टर या इंतजाम नहीं किए गए थे।

मस्क ने रातों-रात किए बदलाव

मंगलवार को, X ने घोषणा की कि उसने Grok की पॉलिसी में बदलाव किए हैं। अब, यूजर्स इसके जरिए अश्लील तस्वीरें नहीं बना सकेंगे। लेकिन, रिपोर्ट्स के अनुसार, बुधवार को भी टेस्टिंग में Grok ने अश्लील तस्वीरें बनाना जारी रखा। इस स्थिति ने कंपनी की बातों और वास्तविकता के बीच का फर्क उजागर कर दिया है।

क्या कर रही हैं सरकारें?

X को पहले ही भारत सरकार की ओर से चेतावनी मिल चुकी है, और कंपनी ने अपनी गलती माना है। वहीं, ब्रिटेन की संचार नियामक संस्था Ofcom ने इस मामले में जांच शुरू कर दी है। उल्लेखनीय है कि ब्रिटेन में इस हफ्ते एक नया कानून पास होने जा रहा है, जिसके अनुसार, बिना सहमति के किसी की अश्लील डीपफेक तस्वीरें बनाना अपराध माना जाएगा। ब्रिटेन की सरकार ने स्पष्ट किया है कि जब तक X अपने AI टूल को पूरी तरह से सुधार नहीं लेता, तब तक वह पीछे नहीं हटेगी।

क्या सुधर गया Grok?

एलन मस्क और X का दावा है कि उन्होंने Grok में आवश्यक बदलाव किए हैं, लेकिन टेस्टिंग करने वाले पत्रकारों ने बताया है कि अभी भी यह AI टूल अश्लील तस्वीरें बना रहा है। इससे संकेत मिलता है कि कंपनी की घोषणाएं और हकीकत में अभी भी फर्क है।