लॉन्च के कुछ दिन बाद ही बंद हुए Anthropic के ये AI मॉडल, आखिर क्यों?

Anthropic के दो नए AI मॉडल Claude Fable 5 और Claude Mythos 5 लॉन्च के कुछ ही दिनों बाद विवादों में आ गए हैं। अमेरिकी सरकार को चिंता है कि इनकी कुछ क्षमताओं का गलत इस्तेमाल साइबर हमलों और सुरक्षा से जुड़े मामलों में हो सकता है। इसी वजह से दोनों मॉडलों की पहुंच फिलहाल अस्थायी रूप से रोक दी गई है। आइए जानते हैं...

Anthropic has disabled access to Claude Fable 5 and Mythos 5 after a US government order citing security concerns.

Anthropic की नई AI टेक्नोलॉजी लॉन्च होने के कुछ ही दिनों बाद विवादों में घिर गई है। रिपोर्ट्स के मुताबिक अमेरिकी सरकार ने कंपनी को अपने दो नए AI मॉडल Claude Fable 5 और Claude Mythos 5 की पहुंच अस्थायी रूप से बंद करने का निर्देश दिया है। सरकार को चिंता है कि इन मॉडलों की कुछ क्षमताओं का गलत इस्तेमाल साइबर हमलों और राष्ट्रीय सुरक्षा से जुड़े मामलों में किया जा सकता है। Anthropic ने बताया कि उसे 12 जून को यह निर्देश मिला था और उसने इसका पालन करते हुए दोनों मॉडलों की पहुंच रोक दी है। हालांकि कंपनी के बाकी AI मॉडल अभी भी सामान्य रूप से उपलब्ध हैं। इस फैसले ने AI इंडस्ट्री में नई बहस छेड़ दी है कि AI को कितना खुला रखा जाना चाहिए और उन पर कितनी निगरानी होनी चाहिए। और पढें: Claude Opus 5: Anthropic का नया AI मॉडल आया, आधी कीमत में मिलेगी Fable जैसी ताकत

Claude Mythos 5 और Fable 5 में क्या खास था?

Claude Mythos 5 को Anthropic ने साइबर सुरक्षा के लिए बनाया गया अपना सबसे एडवांस AI मॉडल बताया था। कंपनी का कहना था कि यह सॉफ्टवेयर, ऑपरेटिंग सिस्टम और वेब ब्राउजर में छिपी खामियों को बहुत अच्छी तरह पहचान सकता है। इसी वजह से इसे आम लोगों के लिए लॉन्च नहीं किया गया। इसे सिर्फ Project Glasswing नाम के खास प्रोग्राम के तहत कुछ कंपनियों को ही इस्तेमाल करने दिया गया था। इनमें Amazon, Apple, Google, Microsoft और CrowdStrike जैसी बड़ी कंपनियां शामिल थीं। वहीं Claude Fable 5 को Mythos 5 का ऐसा वर्जन माना जा रहा था, जिसे आम यूजर्स के लिए तैयार किया गया था। और पढें: OpenAI के मॉडल से हुई गलती, टेस्टिंग में हैक कर लिया इस कंपनी का सिस्टम

जेलब्रेक टेक्नोलॉजी को लेकर विवाद क्यों हुआ?

Anthropic के अनुसार सरकार की चिंता एक ऐसे तरीके को लेकर है, जिससे Claude Fable 5 की कुछ सुरक्षा सीमाओं को पार किया जा सकता था। इसे AI की दुनिया में 'jailbreak' कहा जाता है। आसान शब्दों में कहें तो jailbreak वह तरीका है, जिसमें कोई व्यक्ति AI को उसकी सुरक्षा नियमों को नजरअंदाज करके ऐसे जवाब देने के लिए उकसाने की कोशिश करता है, जो सामान्य तौर पर उसे नहीं देने चाहिए। कंपनी का कहना है कि कुछ उदाहरणों में यह मॉडल कोड की जांच करके सॉफ्टवेयर की खामियों का पता लगा सकता था। हालांकि Anthropic का दावा है कि ऐसी क्षमता सिर्फ उसके मॉडल में नहीं, बल्कि कई दूसरे AI मॉडलों में भी मौजूद है। साइबर सुरक्षा विशेषज्ञ अक्सर ऐसे टूल्स का इस्तेमाल सिस्टम की कमियां खोजने और उन्हें ठीक करने के लिए करते हैं। कंपनी ने यह भी कहा कि उसके सबसे जरूरी सुरक्षा सिस्टम अलग से काम करते हैं और किसी भी खतरनाक या गलत जानकारी को रोकने की कोशिश करते रहते हैं। और पढें: Anthropic ने Claude AI Pro और Claude AI Max को भारतीय कीमतें की लॉन्च, जानें ChatGPT से सस्ता है या फिर महंगा?

Anthropic इस फैसले का विरोध क्यों कर रही है?

अमेरिकी अधिकारियों का मानना है कि Mythos 5 जैसी AI अगर गलत लोगों के हाथ लग जाए, तो उसका गलत इस्तेमाल हो सकता है। इसी वजह से दोनों AI मॉडलों की जांच पूरी होने तक उनकी पहुंच अस्थायी रूप से रोक दी गई है। हालांकि Anthropic इस फैसले से सहमत नहीं है। कंपनी का कहना है कि सिर्फ एक सीमित जेलब्रेक मामले के आधार पर किसी AI मॉडल को बंद करना सही नहीं है। Anthropic का तर्क है कि अगर ऐसा नियम सभी AI कंपनियों पर लागू किया गया, तो भविष्य में नए AI मॉडल लॉन्च करना काफी मुश्किल हो जाएगा।

टेक्नोलॉजी और ऑटोमोबाइल की लेटेस्ट खबरों के लिए आप हमें व्हाट्सऐप चैनल, फेसबुक, यूट्यूब और X, पर फॉलो करें।