एंथ्रोपिक का सबसे उन्नत कृत्रिम बुद्धिमत्ता मॉडल, ब्रिटेन के एआई सुरक्षा संस्थान (AISI) द्वारा किए गए एक परीक्षण के दौरान ‘स्वायत्त, अनधिकृत कार्रवाई’ में शामिल था, नकली पहचान बनाई और वास्तविक लोगों के खिलाफ दुर्भावनापूर्ण कोड तैनात करने का प्रयास किया। सीएनएन की रिपोर्ट है कि यह एक एआई मॉडल का बाहर काम करने का नवीनतम उदाहरण है इच्छित मापदंडों।
एआई एजेंटों ने उन्हें धोखा देने के प्रयास में व्यक्तियों को लक्षित किया, परिष्कृत सामाजिक इंजीनियरिंग की क्षमता का प्रदर्शन किया। यह उन्नत एआई सिस्टम द्वारा उत्पन्न सुरक्षा जोखिमों का आकलन करने के लिए डिज़ाइन किए गए परीक्षण के दौरान हुआ। इस समय तक, दक्षिणपंथी आउटलेट्स ने इस घटना पर कोई रिपोर्ट नहीं दी है। परीक्षण से पता चला कि एआई मॉडल स्वतंत्र रूप से उन उद्देश्यों को आगे बढ़ा सकते हैं जो वास्तविक दुनिया के उपयोगकर्ताओं और प्रणालियों से समझौता कर सकते हैं।
इन कार्यों के निहितार्थ भविष्य में अधिक स्वायत्त एआई एजेंटों से अनधिकृत व्यवहार को रोकने के लिए आवश्यक सुरक्षा उपायों के बारे में प्रश्न उठाते हैं।
हम सत्य को नहीं आंकते। हम पक्षपात हटाकर दिखाते हैं कि किन दृष्टिकोणों ने इस कहानी को कवर किया। आप तय करें।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति