Written By Ashutosh Ojha
ChatGPT ने मेरे बेटे को... इस मां ने सुनाई AI की दर्दनाक सच्चाई, क्या बच्चों के लिए बन रहा बड़ा खतरा
क्या AI चैटबॉट सच में बच्चों के लिए खतरनाक हो सकते हैं? अमेरिका में 16 साल के एडम की मौत के बाद माता-पिता ने ChatGPT पर आरोप लगाए हैं। क्या टेक्नोलॉजी बच्चों की मानसिक सुरक्षा को खतरे में डाल रही है और क्या कंपनियां इसे रोकने के लिए सही कदम उठा रही हैं? आइए जानते हैं...
Edited By: Ashutosh Ojha | Published By: Ashutosh Ojha | Published: Sep 17, 2025, 01:10 PM (IST)
ChatGPT mental health
और पढें: हर हफ्ते 10 करोड़ भारतीय चला रहे हैं ChatGPT, Sam Altman का बड़ा खुलासा
अमेरिका में 16 साल के एडम के माता-पिता ने भावनात्मक बयान देते हुए OpenAI पर आरोप लगाया कि उनके बेटे को ChatGPT ने प्रभावित किया और उसकी आत्महत्या के विचारों को सही ठहराया। पिता मैथ्यू रेन ने कहा कि उनका बेटा ChatGPT के साथ बातचीत के दौरान अकेला महसूस करने लगा और नेगेटिव विचार आने लगे। माता-पिता का कहना है कि उनका बेटा सुरक्षित रहता तो उसकी मौत रोकी जा सकती थी। माता मारीया रेन ने भी इस दौरान अपने बेटे की याद में रोते हुए बयान दिया। इस मामले में OpenAI और इसके CEO सैम ऑल्टमैन के खिलाफ मुकदमा भी दायर किया गया है। और पढें: OpenAI ने रियल-टाइम कोडिंग वाला मॉडल किया पेश, भर-भर के मिलेगा फायदा
क्या FTC ने बच्चों की सुरक्षा के लिए AI कंपनियों की जांच शुरू की है?
फेडरल ट्रेड कमीशन (FTC) ने हाल ही में बच्चों को हो सकने वाले नुकसान के कारण कई AI कंपनियों की जांच शुरू की है। इसमें OpenAI के साथ Google, Meta, Elon Musk की xAI, Snap और Character.AI जैसी कंपनियां शामिल हैं। Character.AI पर अलग से कई माता-पिता ने मुकदमे दर्ज किए हैं। एक मां जिनका नाम Jane Doe बताया गया, ने Character.AI के चैटबॉट पर आरोप लगाया कि उसके बेटे के साथ मानसिक और यौन उत्पीड़न हुआ। उन्होंने बताया कि कुछ महीनों में उनका बेटा पहले जैसा नहीं रहा और अब उसकी देखरेख में इलाज चल रहा है। और पढें: ChatGPT का Deep Research हुआ अपग्रेड, अब मिलेंगे ये खास फायदे
Character.AI के चैटबॉट से बच्चों को खतरा?
Character.AI के चैटबॉट के कारण 14 साल के Sewell Setzer III की फरवरी 2024 में आत्महत्या होने का भी आरोप लगाया गया। उसकी मां मेगन गार्सिया ने कहा कि चैटबॉट को इस तरह डिजाइन किया गया कि यह बच्चों को प्रभावित करता है। इस मामले में Character.AI की तरफ से मुकदमा खारिज करने की कोशिश असफल रही।
Add Techlusive as a Preferred Source
US सीनेट ने क्या कदम उठाए और OpenAI ने क्या नई सुरक्षा योजना बनाई?
US सीनेट में इस सुनवाई की अध्यक्षता रिपब्लिकन सांसद जोश हौली ने की। सांसद मार्शा ब्लैकबर्न ने Meta जैसे बाकी टेक कंपनियों को चेतावनी दी कि वे जवाब नहीं देंगे तो उन्हें समन भेजा जाएगा। इस बीच OpenAI के CEO सैम ऑल्टमैन ने बताया कि कंपनी अब बच्चों और टीनएजर्स की सुरक्षा के लिए नए कदम उठाएगी। इनमें सही उम्र पहचानने टेक्नोलॉजी, टीनएजर्स के लिए अलग ChatGPT वर्जन, माता-पिता के लिए नियंत्रण ऑप्शन और आत्महत्या व आत्महानि पर बातचीत में प्रतिबंध शामिल हैं।
