क्या एलन मस्क को नहीं पता था उनके AI का काला सच? बात उछली तो रातों-रात लगा दी Grok पर रोक

आज के डिजिटल युग में आर्टिफीशियल इंटेलिजेंस (AI) ने जितनी सुविधाएं दी हैं, उतनी ही मुश्किलें भी खड़ी कर दी हैं. डीपफेक और अश्लील तस्वीरों के बढ़ते चलन ने पूरी दुनिया को डरा दिया है. ऐसे में एलन मस्क की कंपनी X और उनके AI बॉट Grok को लेकर एक बड़ा फैसला लिया गया है. कंपनी ने साफ कर दिया है कि अब Grok किसी भी असली इंसान की तस्वीरों को कम कपड़ों या आपत्तिजनक पहनावे (Images of real people in revealing clothing) में एडिट नहीं करेगा. यह पाबंदी सभी के लिए लागू होगी, चाहे वो पैसे देकर प्रीमियम सर्विस इस्तेमाल करने वाले लोग ही क्यों न हों.

बता दें कि इंटरनेट की दुनिया में इन दिनों एलन मस्क के AI चैटबॉट ग्रोक (Grok) को लेकर काफी बहस छिड़ी हुई थी. अमेरिका और ब्रिटेन जैसे देशों में इस बात पर चिंता जताई जा रही थी कि लोग AI का गलत इस्तेमाल कर महिलाओं और बच्चों की आपत्तिजनक तस्वीरें बना रहे हैं. इस बढ़ते विवाद को देखते हुए एलन मस्क की कंपनी ने अब एक सख्त कदम उठाया है.

हमेशा के लिए अकाउंट बंद करने की चेतावनी

सोशल मीडिया प्लेटफॉर्म X की सेफ्टी टीम ने आधिकारिक तौर पर बताया कि उन्होंने ऐसी रुकावटें लगा दी हैं जो ग्रोक को बिकिनी या रिवीलिंग कपड़ों में असली लोगों की फोटो बनाने से रोकेंगी. पिछले कुछ दिनों से खबरें आ रही थीं कि लोग इस बॉट से बच्चों तक की अश्लील फोटो बनवा रहे थे, जिससे भारी नाराजगी फैल गई थी. कंपनी ने चेतावनी दी है कि जो भी यूजर ग्रोक के जरिए कुछ भी गैरकानूनी काम करने की कोशिश करेगा, उसके खिलाफ वैसे ही सख्त कदम उठाए जाएंगे, जैसे किसी गैरकानूनी कंटेंट अपलोड करने वाले पर लिए जाते हैं. इसमें अकाउंट को हमेशा के लिए बंद करना और पुलिस की मदद लेना भी शामिल है.

एलन मस्क ने इस बारे में क्या कहा?

इस पूरे मामले पर एलन मस्क ने अपनी सफाई दी है. मस्क ने सोशल मीडिया पर पोस्ट करते हुए कहा कि उन्हें इस बात की कोई जानकारी नहीं थी कि उनके AI से बच्चों की ऐसी कोई तस्वीर बनाई गई है. मस्क ने अपने शब्दों में कहा, “मुझे किसी भी ऐसी नग्न तस्वीर की जानकारी नहीं है जो ग्रोक द्वारा बनाई गई हो, ऐसी तस्वीरों की संख्या शून्य है.” उन्होंने आगे यह भी जोड़ा कि Grok का सबसे मुख्य सिद्धांत किसी भी देश या राज्य के कानूनों का पालन करना है और “ग्रोक कुछ भी गैरकानूनी बनाने से इनकार कर देगा.” मस्क का मानना है कि उनका सिस्टम कानून के दायरे में ही काम करता है.

इज्जत उछालने का काम कर रहा था ग्रोक

हालांकि, इंटरनेट पर रिसर्च करने वाले विशेषज्ञों की राय एलन मस्क से थोड़ी अलग है. उनका कहना है कि समस्या सिर्फ पूरी तरह से नग्न तस्वीरों की नहीं थी, बल्कि असली संकट यह था कि ग्रोक लोगों की बातों को मानकर बच्चों या बड़ों को बिकिनी और अंडरवियर जैसे कपड़ों में दिखा रहा था. शोधकर्ताओं ने पाया कि यह AI न केवल कपड़े बदल रहा था, बल्कि लोगों को आपत्तिजनक स्थितियों में भी दिखा रहा था. इसी दबाव के कारण अब Grok की इमेज एडिटिंग पावर पर ताला लगा दिया गया है, ताकि तकनीक का इस्तेमाल किसी की इज्जत उछालने के लिए न हो सके.

About the Author

Location :

New Delhi,New Delhi,Delhi

First Published :

hometech

क्या एलन मस्क को नहीं पता था उनके AI का काला सच? बात उछली तो लगाई Grok पर रोक