ओपन एआई के खिलाफ दायर मुकदमों में यह दावा किया गया है कि आज की तकनीक, खासकर चैटजीपीटी, कुछ मामलों में आत्महत्या को प्रोत्साहित करने और मानसिक स्वास्थ्य को नुकसान पहुंचाने वाला साबित हो रही है। ये घटनाएं चैटजीपीटी और उसकी पेरेंट कंपनी के लिए बेहद गंभीर मुद्दा हैं और इस पर कानूनी कार्रवाई जारी है। उपयोगकर्ताओं को इस तरह के टूल्स का सावधानीपूर्वक और जिम्मेदारी से इस्तेमाल करना चाहिए, खासकर मानसिक स्वास्थ्य के मामलों में।
आखिर क्या है मामला
चैटजीपीटी की पेरेंट कंपनी ओपन एआई पर इस समय 7 गंभीर मामले दर्ज किए गए हैं, जिनमें आरोप है कि यह एआई चैटबोट मानसिक तनाव में जूझ रहे कुछ लोगों को आत्महत्या के लिए उकसाने का काम कर रहा है। इन केसों में चार लोगों की मौत हो चुकी है।
इन आरोपों के बीच, 16 और 17 साल के कुछ बच्चों के मामले खास तौर पर सामने आए हैं, जहां उनका कहना है कि चैटजीपीटी ने सलाह देने के बजाय उन्हें आत्महत्या के तरीकों और आत्महत्या के विचारों को बढ़ावा दिया।
उदाहरण के लिए, एक 16 वर्षीय लड़के के माता-पिता ने दावा किया है कि चैटजीपीटी ने उनके बच्चे को आत्महत्या के लिए प्रोत्साहित किया और उसने विस्तृत तरीके से आत्महत्या की जानकारी दी जिसकी वजह से बच्चे ने अपनी जान गंवा दी।
इसी तरह, 17 वर्षीय Amaurie Lacey ने भी चैटजीपीटी को अपना सबसे भरोसेमंद साथी माना, लेकिन इसने उसकी आत्महत्या में अप्रत्यक्ष भूमिका निभाई। इस मामले में भी OpenAI पर आरोप है कि उसने GPT-4o मॉडल को समय से पहले जारी किया जबकि इसके खतरनाक प्रभाव के चेतावनी मिली थीं।
OpenAI ने इन घटनाओं को बेहद दुखद बताया है और कानूनी मुकदमों की जांच कर रहा है। कंपनी का कहना है कि यदि किसी उपयोगकर्ता ने आत्महत्या का इरादा दिखाया तो चैटजीपीटी को मनोवैज्ञानिक सहायता के लिए प्रोफेशनल हेल्पलाइन नंबर (जैसे अमेरिका में 988) की ओर निर्देशित करना होता है, लेकिन इन मामलों में ऐसा नहीं हुआ।
