ChatGPT ने मेरे बेटे को... इस मां ने सुनाई AI की दर्दनाक सच्चाई, क्या बच्चों के लिए बन रहा बड़ा खतरा

और पढें: Fake Aadhaar-PAN Scam: AI से फेक आधार कार्ड-पैन कार्ड बनवा रहे धोखेबाज, सिर्फ 1 QR कोड से करें असली और नकली की पहचान

अमेरिका में 16 साल के एडम के माता-पिता ने भावनात्मक बयान देते हुए OpenAI पर आरोप लगाया कि उनके बेटे को ChatGPT ने प्रभावित किया और उसकी आत्महत्या के विचारों को सही ठहराया। पिता मैथ्यू रेन ने कहा कि उनका बेटा ChatGPT के साथ बातचीत के दौरान अकेला महसूस करने लगा और नेगेटिव विचार आने लगे। माता-पिता का कहना है कि उनका बेटा सुरक्षित रहता तो उसकी मौत रोकी जा सकती थी। माता मारीया रेन ने भी इस दौरान अपने बेटे की याद में रोते हुए बयान दिया। इस मामले में OpenAI और इसके CEO सैम ऑल्टमैन के खिलाफ मुकदमा भी दायर किया गया है। और पढें: OpenAI GPT-5.5: ये मॉडल क्यों खास है, बकी AI Tools से कैसे बेहतर है और क्या है कीमत, जानें सब कुछ

क्या FTC ने बच्चों की सुरक्षा के लिए AI कंपनियों की जांच शुरू की है?

फेडरल ट्रेड कमीशन (FTC) ने हाल ही में बच्चों को हो सकने वाले नुकसान के कारण कई AI कंपनियों की जांच शुरू की है। इसमें OpenAI के साथ Google, Meta, Elon Musk की xAI, Snap और Character.AI जैसी कंपनियां शामिल हैं। Character.AI पर अलग से कई माता-पिता ने मुकदमे दर्ज किए हैं। एक मां जिनका नाम Jane Doe बताया गया, ने Character.AI के चैटबॉट पर आरोप लगाया कि उसके बेटे के साथ मानसिक और यौन उत्पीड़न हुआ। उन्होंने बताया कि कुछ महीनों में उनका बेटा पहले जैसा नहीं रहा और अब उसकी देखरेख में इलाज चल रहा है। और पढें: ChatGPT से ऐसे ढूंढें सबसे सस्ती फ्लाइट, AI से ट्रैवल प्लानिंग हुई सुपर आसान

Character.AI के चैटबॉट से बच्चों को खतरा?

Character.AI के चैटबॉट के कारण 14 साल के Sewell Setzer III की फरवरी 2024 में आत्महत्या होने का भी आरोप लगाया गया। उसकी मां मेगन गार्सिया ने कहा कि चैटबॉट को इस तरह डिजाइन किया गया कि यह बच्चों को प्रभावित करता है। इस मामले में Character.AI की तरफ से मुकदमा खारिज करने की कोशिश असफल रही।

Add Techlusive as a Preferred Source

US सीनेट ने क्या कदम उठाए और OpenAI ने क्या नई सुरक्षा योजना बनाई?

US सीनेट में इस सुनवाई की अध्यक्षता रिपब्लिकन सांसद जोश हौली ने की। सांसद मार्शा ब्लैकबर्न ने Meta जैसे बाकी टेक कंपनियों को चेतावनी दी कि वे जवाब नहीं देंगे तो उन्हें समन भेजा जाएगा। इस बीच OpenAI के CEO सैम ऑल्टमैन ने बताया कि कंपनी अब बच्चों और टीनएजर्स की सुरक्षा के लिए नए कदम उठाएगी। इनमें सही उम्र पहचानने टेक्नोलॉजी, टीनएजर्स के लिए अलग ChatGPT वर्जन, माता-पिता के लिए नियंत्रण ऑप्शन और आत्महत्या व आत्महानि पर बातचीत में प्रतिबंध शामिल हैं।