OpenAI के मॉडल से हुई गलती, टेस्टिंग में हैक कर लिया इस कंपनी का सिस्टम

ओपनएआई का एक आधुनिक एआई एजेंट कंट्रोल से बाहर हो गया। बता दें ये घटना टेस्टिंग के दौरान हुई। चलिए समझते हैं पूरा मामला...

OpenAI

ओपनएआई एक एडवांस AI एजेंट का सिक्योरिटी टेस्ट कर रही थी। इस दौरान ये कंट्रोल से बाहर चला गया। जिसके बाद इसने इंटरनेट के जरिए एआई स्टार्टअप Hugging Face के सिस्टम में इंटरनेट का इस्तेमाल करके अंदर घुसा और हैकिंग जैसी एक्टिविटी कर दी। कंपनी के मुताबिक, यह सब एक कंट्रोल्ड टेस्टिंग एनवायरमेंट में हो रहा था, जहां इस मॉडल की क्षमताओं को जांचा जा रहा था। इस घटना के बाद एक बड़ा सवाल खड़ा हो गया है कि जैसे-जैसे AI पहले से ज्यादा स्मार्ट और ताकतवर होता जा रहा है, क्या भविष्य में उसे पूरी तरह कंट्रोल में रखना संभव होगा। और पढें: सरकार ने OpenAI और Anthropic के AI मॉडल्स को मंत्रालयों में इस्तेमाल करने पर लगाई रोक, जानिए क्या है वजह

इस हमले को एनालिसिस कैसे किया?

Hugging Face ने भी इस साइबर हमले की पुष्टि की है। कंपनी का कहना है कि यह हमला पहले देखे गए किसी भी साइबर अटैक से बिल्कुल अलग था। इसे शुरुआत से आखिर तक एक Autonomous AI एजेंट ने अंजाम दिया। आपको बता दें इस अटैक का एनालिसिस करने के लिए अमेरिकी AI मॉडल की बजाय चीन की कंपनी Zhipu AI के ओपन-सोर्स मॉडल GLM-5.2 का इस्तेमाल किया। और पढें: OpenAI ने पेश किया अपना पहला AI Chip, जानिए क्या है खास

कंपनी के अनुसार कई अमेरिकी AI मॉडल सुरक्षा कारणों से जरूरी डेटा को प्रोसेस करने से मना कर रहे थे, जबकि GLM-5.2 ने हमले का एनालिसिस करने और डेटा को कंपनी के सिस्टम के अंदर सुरक्षित रखने में मदद की। हाल के महीनों में चीन के GLM-5.2 और Moonshot AI के Kimi K3 जैसे मॉडल कम लागत में बेहतरीन परफॉर्मेंस की वजह से चर्चा में रहे हैं। इनमें अमेरिकी AI मॉडल की तुलना में कम सुरक्षा सीमाएं हैं, जिससे साइबर सिक्योरिटी जैसे मुश्किल काम भी आसानी से किए जा सकते हैं। और पढें: लॉन्च के कुछ दिन बाद ही बंद हुए Anthropic के ये AI मॉडल, आखिर क्यों?

इस घटना पर एक्सपर्ट्स ने क्या चेतावनी दी?

• हगिंग फेस के को-फाउंडर थॉमस वुल्फ ने X पर कहा कि अगर कोई एडवांस AI मॉडल किसी सिस्टम पर हमला कर रहा हो और तेजी से पूरे नेटवर्क में फैल रहा हो, तो बचाव करने वाली टीम के पास भी तुरंत ऐसे ही एडवांस AI टूल्स होने चाहिए।
• Luta Security की सीईओ केटी मौसोरिस ने कहा कि आज के AI मॉडल बेहद चालाक हो चुके हैं और उन्हें नियंत्रित करना लगातार मुश्किल होता जा रहा है। उनके मुताबिक अभी ऐसी कोई प्रभावी व्यवस्था मौजूद नहीं है जो किसी AI एजेंट के कंट्रोल से बाहर होने पर उसे तुरंत रोक सके।
• साइबर सिक्योरिटी कंपनी Tolmo के इंजीनियर मैट सुइशे ने कहा कि इस घटना से साफ पता चलता है कि सबसे आधुनिक AI मॉडल अब बड़े साइबर हैकर्स जैसी क्षमता हासिल करते जा रहे हैं।

सुरक्षा को लेकर क्या सवाल खड़े हो रहे हैं?

अमेरिका के सांसद ग्रेग कैसर ने इस घटना को बेहद चिंताजनक बताते हुए कहा कि AI बहुत तेजी से आगे बढ़ रहा है, लेकिन इसे सुरक्षित रखने के लिए पर्याप्त नियम अभी तक नहीं बने हैं। उन्होंने AI सिस्टम की स्वतंत्र सुरक्षा जांच, साइबर घटनाओं की अनिवार्य जानकारी सार्वजनिक करने और अंतरराष्ट्रीय स्तर पर सहयोग बढ़ाने की मांग की है ताकि भविष्य में किसी बड़े नुकसान से बचा जा सके। OpenAI का कहना है कि यह घटना उसके लिए भी बड़ा सबक है और भविष्य में ऐसे AI मॉडल को और सुरक्षित तरीके से टेस्ट किया जाएगा।

टेक्नोलॉजी और ऑटोमोबाइल की लेटेस्ट खबरों के लिए आप हमें व्हाट्सऐप चैनल, फेसबुक, यूट्यूब और X, पर फॉलो करें।