ChatGPT ने मेरे बेटे को... इस मां ने सुनाई AI की दर्दनाक सच्चाई, क्या बच्चों के लिए बन रहा बड़ा खतरा

और पढें: AI पेन नहीं, OpenAI का पहला डिवाइस निकला कुछ और, लीक रिपोर्ट में हुआ बड़ा खुलासा

अमेरिका में 16 साल के एडम के माता-पिता ने भावनात्मक बयान देते हुए OpenAI पर आरोप लगाया कि उनके बेटे को ChatGPT ने प्रभावित किया और उसकी आत्महत्या के विचारों को सही ठहराया। पिता मैथ्यू रेन ने कहा कि उनका बेटा ChatGPT के साथ बातचीत के दौरान अकेला महसूस करने लगा और नेगेटिव विचार आने लगे। माता-पिता का कहना है कि उनका बेटा सुरक्षित रहता तो उसकी मौत रोकी जा सकती थी। माता मारीया रेन ने भी इस दौरान अपने बेटे की याद में रोते हुए बयान दिया। इस मामले में OpenAI और इसके CEO सैम ऑल्टमैन के खिलाफ मुकदमा भी दायर किया गया है। और पढें: OpenAI ने लॉन्च किया Age Prediction System, ChatGPT पर झूठी उम्र डालने वाले यूजर्स का लगेगा पता

क्या FTC ने बच्चों की सुरक्षा के लिए AI कंपनियों की जांच शुरू की है?

फेडरल ट्रेड कमीशन (FTC) ने हाल ही में बच्चों को हो सकने वाले नुकसान के कारण कई AI कंपनियों की जांच शुरू की है। इसमें OpenAI के साथ Google, Meta, Elon Musk की xAI, Snap और Character.AI जैसी कंपनियां शामिल हैं। Character.AI पर अलग से कई माता-पिता ने मुकदमे दर्ज किए हैं। एक मां जिनका नाम Jane Doe बताया गया, ने Character.AI के चैटबॉट पर आरोप लगाया कि उसके बेटे के साथ मानसिक और यौन उत्पीड़न हुआ। उन्होंने बताया कि कुछ महीनों में उनका बेटा पहले जैसा नहीं रहा और अब उसकी देखरेख में इलाज चल रहा है। और पढें: ChatGPT Plus हो गया फ्री, 2000 रुपये की सर्विस ऐसे पाएं बिल्कुल FREE

Character.AI के चैटबॉट से बच्चों को खतरा?

Character.AI के चैटबॉट के कारण 14 साल के Sewell Setzer III की फरवरी 2024 में आत्महत्या होने का भी आरोप लगाया गया। उसकी मां मेगन गार्सिया ने कहा कि चैटबॉट को इस तरह डिजाइन किया गया कि यह बच्चों को प्रभावित करता है। इस मामले में Character.AI की तरफ से मुकदमा खारिज करने की कोशिश असफल रही।

US सीनेट ने क्या कदम उठाए और OpenAI ने क्या नई सुरक्षा योजना बनाई?

US सीनेट में इस सुनवाई की अध्यक्षता रिपब्लिकन सांसद जोश हौली ने की। सांसद मार्शा ब्लैकबर्न ने Meta जैसे बाकी टेक कंपनियों को चेतावनी दी कि वे जवाब नहीं देंगे तो उन्हें समन भेजा जाएगा। इस बीच OpenAI के CEO सैम ऑल्टमैन ने बताया कि कंपनी अब बच्चों और टीनएजर्स की सुरक्षा के लिए नए कदम उठाएगी। इनमें सही उम्र पहचानने टेक्नोलॉजी, टीनएजर्स के लिए अलग ChatGPT वर्जन, माता-पिता के लिए नियंत्रण ऑप्शन और आत्महत्या व आत्महानि पर बातचीत में प्रतिबंध शामिल हैं।