संयुक्त राज्य सरकार के एक निर्देश के बाद Anthropic ने आधिकारिक तौर पर अपने नवीनतम लार्ज लैंग्वेज मॉडल, Claude Fable 5, को सार्वजनिक पहुंच से हटा दिया है। कंपनी ने एक ब्लॉग पोस्ट में इस निर्णय की घोषणा करते हुए कहा कि वह सिस्टम को ऑफलाइन करने के आदेश का पालन कर रही है।
Anthropic के बयान के अनुसार, संघीय अधिकारियों ने मॉडल के भीतर विशिष्ट कमजोरियों की पहचान की है। कंपनी ने अपनी आधिकारिक संचार में स्पष्ट किया, "The government believes it has become aware of a method of bypassing, or ‘jailbreaking’ Fable 5"। यह खुलासा उन्नत आर्टिफिशियल इंटेलिजेंस प्रणालियों के सुरक्षा और नियंत्रण तंत्र के संबंध में बढ़ती चिंताओं को उजागर करता है।
Claude Fable 5 को हटाना जेनरेटिव AI विकसित करने वाली निजी प्रौद्योगिकी फर्मों के संचालन में अमेरिकी नियामक निकायों द्वारा एक महत्वपूर्ण हस्तक्षेप है। मॉडल को ऑफलाइन करने के लिए मजबूर करके, सरकार की कोशिश है कि पहचाने गए बाईपास तकनीकों के संभावित दुरुपयोग को रोका जा सके। यह कार्रवाई उस बढ़ती जांच को रेखांकित करती है जिसका सामना AI डेवलपर्स को करना पड़ रहा है क्योंकि उनकी रचनाएं अधिक शक्तिशाली और जटिल इंटरैक्शन में सक्षम होती जा रही हैं।
सरकारी आदेश का Anthropic द्वारा पालन उभरती प्रौद्योगिकियों पर संघीय अधिकार की सीमा को दर्शाता है। कंपनी ने [jailbreak] पद्धति की विशिष्ट प्रकृति या मॉडल के सुरक्षा प्रोटोकॉल के संभावित पुनर्मूल्यांकन की समयसीमा के बारे में विस्तार से नहीं बताया। हालांकि, यह घटना मजबूत निरीक्षण के बिना उन्नत AI प्रणालियों को तैनात करने में निहित नियामक जोखिमों की एक कड़ी याद दिलाती है।
यह घटना संभवतः इस बात को प्रभावित करेगी कि अन्य टेक कंपनियां समान मॉडलों के विकास और तैनाती के प्रति कैसा दृष्टिकोण अपनाती हैं। सरकार द्वारा सुरक्षा उल्लंघनों और बाईपास विधियों की सक्रिय निगरानी के साथ, फर्मों को सख्त आंतरिक नियंत्रण लागू करने और अपने उत्पादों के परीक्षण चरणों के दौरान संघीय एजेंसियों के साथ अधिक निकटता से जुड़ने की आवश्यकता हो सकती है। अमेरिकी अधिकारियों के किसी अतिरिक्त निर्देश तक Claude Fable 5 की ऑफलाइन स्थिति प्रभावी बनी रहेगी।
हम सत्य को नहीं आंकते। हम पक्षपात हटाकर दिखाते हैं कि किन दृष्टिकोणों ने इस कहानी को कवर किया। आप तय करें।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति