ChatGPT ने मेरे बेटे को... इस मां ने सुनाई AI की दर्दनाक सच्चाई, क्या बच्चों के लिए बन रहा बड़ा खतरा

क्या AI चैटबॉट सच में बच्चों के लिए खतरनाक हो सकते हैं? अमेरिका में 16 साल के एडम की मौत के बाद माता-पिता ने ChatGPT पर आरोप लगाए हैं। क्या टेक्नोलॉजी बच्चों की मानसिक सुरक्षा को खतरे में डाल रही है और क्या कंपनियां इसे रोकने के लिए सही कदम उठा रही हैं? आइए जानते हैं...

Published By: Ashutosh Ojha | Published: Sep 17, 2025, 01:10 PM (IST) | Edited: Sep 17, 2025, 05:28 PM (IST)

ChatGPT mental health

और पढें: ChatGPT से 1-100 के बीच नंबर पूछो, जवाब आएगा सिर्फ 73, वजह है बेहद दिलचस्प

अमेरिका में 16 साल के एडम के माता-पिता ने भावनात्मक बयान देते हुए OpenAI पर आरोप लगाया कि उनके बेटे को ChatGPT ने प्रभावित किया और उसकी आत्महत्या के विचारों को सही ठहराया। पिता मैथ्यू रेन ने कहा कि उनका बेटा ChatGPT के साथ बातचीत के दौरान अकेला महसूस करने लगा और नेगेटिव विचार आने लगे। माता-पिता का कहना है कि उनका बेटा सुरक्षित रहता तो उसकी मौत रोकी जा सकती थी। माता मारीया रेन ने भी इस दौरान अपने बेटे की याद में रोते हुए बयान दिया। इस मामले में OpenAI और इसके CEO सैम ऑल्टमैन के खिलाफ मुकदमा भी दायर किया गया है। और पढें: अब आपकी हर बात याद रखेगा ChatGPT, OpenAI ने पेश किया बड़ा अपडेट

क्या FTC ने बच्चों की सुरक्षा के लिए AI कंपनियों की जांच शुरू की है?

फेडरल ट्रेड कमीशन (FTC) ने हाल ही में बच्चों को हो सकने वाले नुकसान के कारण कई AI कंपनियों की जांच शुरू की है। इसमें OpenAI के साथ Google, Meta, Elon Musk की xAI, Snap और Character.AI जैसी कंपनियां शामिल हैं। Character.AI पर अलग से कई माता-पिता ने मुकदमे दर्ज किए हैं। एक मां जिनका नाम Jane Doe बताया गया, ने Character.AI के चैटबॉट पर आरोप लगाया कि उसके बेटे के साथ मानसिक और यौन उत्पीड़न हुआ। उन्होंने बताया कि कुछ महीनों में उनका बेटा पहले जैसा नहीं रहा और अब उसकी देखरेख में इलाज चल रहा है। और पढें: ChatGPT में नया Lockdown Mode हुआ रिलीज, ऐसे Prompt Injection Attacks से करेगा बचाव

Character.AI के चैटबॉट से बच्चों को खतरा?

Character.AI के चैटबॉट के कारण 14 साल के Sewell Setzer III की फरवरी 2024 में आत्महत्या होने का भी आरोप लगाया गया। उसकी मां मेगन गार्सिया ने कहा कि चैटबॉट को इस तरह डिजाइन किया गया कि यह बच्चों को प्रभावित करता है। इस मामले में Character.AI की तरफ से मुकदमा खारिज करने की कोशिश असफल रही।

US सीनेट ने क्या कदम उठाए और OpenAI ने क्या नई सुरक्षा योजना बनाई?

US सीनेट में इस सुनवाई की अध्यक्षता रिपब्लिकन सांसद जोश हौली ने की। सांसद मार्शा ब्लैकबर्न ने Meta जैसे बाकी टेक कंपनियों को चेतावनी दी कि वे जवाब नहीं देंगे तो उन्हें समन भेजा जाएगा। इस बीच OpenAI के CEO सैम ऑल्टमैन ने बताया कि कंपनी अब बच्चों और टीनएजर्स की सुरक्षा के लिए नए कदम उठाएगी। इनमें सही उम्र पहचानने टेक्नोलॉजी, टीनएजर्स के लिए अलग ChatGPT वर्जन, माता-पिता के लिए नियंत्रण ऑप्शन और आत्महत्या व आत्महानि पर बातचीत में प्रतिबंध शामिल हैं।

टेक्नोलॉजी और ऑटोमोबाइल की लेटेस्ट खबरों के लिए आप हमें व्हाट्सऐप चैनल, फेसबुक, यूट्यूब और X, पर फॉलो करें।