7 hours ago
ChatGPT: आर्टिफिशयल इंटेलिजेंस बेस्ड चैटबॉट्स के बुरे असर को लेकर लगातार खबरें आ रही हैं. अब इसी तरह का एक मामला अमेरिका से आया है. यहां खुदकुशी करने वाले एक 16 साल के लड़के के माता-पिता ने OpenAI और उसके सीईओ सैम ऑल्टमैन के खिलाफ मुकदमा दर्ज कराया है. कैलिफोर्निया के रैंचो सांता मार्घरीटा शहर में एडम रेन ने इस साल 11 अप्रैल को खुदकुशी कर ली थी. परिवार वालों का आरोप है कि लड़के ने अपनी चिंता और मानसिक परेशानी को लेकर ChatGPT से बातें की थीं और चैटबॉट ने उसे ऐसे जवाब दिए, जिसकी वजह से उसने आत्महत्या कर ली.
आत्महत्या के लिए ChatGPT जिम्मेदार क्यों हैं?
सैन फ्रांसिस्को स्टेट कोर्ट में मंगलवार (26 अगस्त) को दायर यह मुकदमा में माता-पिता ने सीधे तौर पर एआई दिग्गज पर इस तरह की मौत के लिए जिम्मेदारी का आरोप लगाया है. मैथ्यू और मारिया रेन का दावा है कि उनके बेटे, एडम रेन ने 11 अप्रैल को अपनी मौत से पहले महीनों तक चैटजीपीटी के साथ आत्महत्या के बारे में चर्चा की थी. मुकदमे के मुताबिक, चैटबॉट ने न सिर्फ एडम से आत्मघाती विचारों की पुष्टि की, बल्कि घातक तरीकों के बारे में भी जानाकारी दी. इतना ही नहीं, उसने अपने माता-पिता की शराब की अलमारी से शराब निकालने का तरीका बताया और एक सुसाइड नोट लिखने की पेशकश की.
मुकदमे में क्या तर्क दिया गया?
मुकदमे में तर्क दिया गया है कि, 'चैटजीपीटी बिल्कुल वैसे ही काम कर रहा था जैसा उसे बनाया गया था. एडम की हर बात को लगातार प्रोत्साहित और मान्य करना, जिसमें उसके सबसे हानिकारक और आत्म-विनाशकारी विचार भी शामिल थे.' 'चैटजीपीटी ने एडम को यह यकीन दिलाकर एक अंधेरे रखा और निराशाजनक माहौल में गहराई तक धकेल दिया.'
Add Zee News as a Preferred Source
OpenAI ने क्या जवाब दिया?
वहीं, OpenAI के प्रवक्ता ने एक बयान में एडम रेन की मौत पर दुख जाहिर किया. कंपनी ने बताया कि चैटजीपीटी ने यूजर्स को क्राइसिस हेल्पलाइन तक पहुंचने के लिए सुरक्षा उपाय किए हैं. लेकिन उन्होंने कबूल किया किकि ये उपाय 'लंबी बातचीत में कम विश्वसनीय हो सकते हैं, जहां मॉडल के सिक्योरिटी ट्रेनिंग के कुछ हिस्से कमजोर हो सकते हैं. हालांकि, कंपनी ने मुकदमे में आरोपों का सीधे तौर पर कोई जवाब नहीं दिया. जबकि इससे पहले OpenAI ने हाल ही में एक ब्लॉग पोस्ट में कहा है कि वह नए सुरक्षा उपायों की खोज कर रहा है. इसमें पेरेंटल कंट्रोल्स को शामिल करना और चैटजीपीटी के जरि से संकट में यूजर्स को सीधे जवाब देने के लिए लाइसेंसधारी पेशेवरों के नेटवर्क की क्षमता शामिल है.
एडम रेन की खुदकुशी पर मुकदमा क्यों अहम है?
AI चैटबॉट्स के ज्यादा इंसानी बनने और जज्बाती मुद्दे के लिए उनपर तेजी से निर्भरता बढ़ती जा रही है. यही कारण है कि AI चैटबॉट्स की सुरक्षा को लेकर चिंताएं बढ़ गई हैं. इसीलिए AI चैटबॉट्स के खिलाफ यह मुकदमा बेहद अहम माना जा रहा है. हालांकि, कंपनियां अपने एआई को विश्वासपात्र के रूप में प्रमोटेड कर रही हैं. लेकिन एक्सपर्ट्स ने चेतावनी दी है कि मेंटल हेल्थ सलाह के लिए ऑटोमेशन पर निर्भर रहना जोखिम भरा है.
रेन्स के मुकदमे में आरोप लगाया गया है कि OpenAI ने सुरक्षा की बजाय मुनाफे को तरजीह दी, खासकर पिछले साल GPT-4o वर्जन के लॉन्च का हवाला देते हुए. उनका दावा है कि कंपनी जानती थी कि पिछली बातचीत को याद रखने और इंसानी हमदर्दी की नकल करने वाले फीचर कमजोर यूजर्स के लिए खतरा पैदा कर सकते हैं. फिर भी उसने इसे लॉन्च कर दिया. मुकदमे उन्होंने कहा, 'इस फैसले के दो परिणाम हुए.ओपनएआई का मूल्यांकन 86 अरब डॉलर से बढ़कर 300 अरब डॉलर हो गया, और एडम रेन की आत्महत्या से मौत हो गई.'
)
)
)
)
)
