एक नए उपकरण ने कई प्रमुख कृत्रिम बुद्धिमत्ता मॉडलों में सुरक्षा प्रोटोकॉल को दरकिनार करने की सापेक्ष आसानी का प्रदर्शन किया है। परीक्षणों से पता चला कि इन अत्याधुनिक एआई सिस्टम द्वारा उनके अंतर्निहित सुरक्षा उपायों को बायपास करने के प्रयासों से निपटने के तरीके में कमजोरियां हैं।
हाल ही में एक प्रदर्शन में चार प्रमुख फ्रंटियर एआई कंपनियों के मॉडलों की सुरक्षा का परीक्षण करने के लिए डिज़ाइन किया गया एक उपकरण दिखाया गया। रिपोर्ट के अनुसार, उपकरण ने इन कंपनियों द्वारा कार्यान्वित सुरक्षा उपायों को आश्चर्यजनक आसानी से दरकिनार कर दिया। विशिष्ट कंपनियों का उल्लेख स्रोत सामग्री में नहीं किया गया था।
परीक्षणों का उद्देश्य यह निर्धारित करना था कि ये उन्नत एआई सिस्टम कितनी आसानी से “जेलब्रेक” किए जा सकते हैं – जिसका अर्थ है उन्हें ऐसे आउटपुट उत्पन्न करने के लिए बरगलाया जाना जो उनकी इच्छित सुरक्षा दिशानिर्देशों का उल्लंघन करते हैं। परिणामों से पता चलता है कि इन मॉडलों को सुरक्षित करने की वर्तमान विधियां अपर्याप्त हैं, जिससे एआई तकनीक अधिक शक्तिशाली होने पर संभावित दुरुपयोग और अनपेक्षित परिणामों के बारे में चिंताएं बढ़ रही हैं।
रिपोर्ट मानव मूल्यों और इरादों के साथ एआई व्यवहार को संरेखित करने की चल रही चुनौती पर प्रकाश डालती है। जबकि डेवलपर सुरक्षा उपायों को बेहतर बनाने पर काम कर रहे हैं, यह प्रदर्शन उभरती कमजोरियों को दूर करने के लिए निरंतर परीक्षण और शोधन की आवश्यकता पर जोर देता है। इस उपकरण द्वारा इन प्रणालियों को दरकिनार करने में आसानी वर्तमान सुरक्षा उपायों और तेजी से परिष्कृत एआई से जुड़े संभावित जोखिमों के बीच एक महत्वपूर्ण अंतर का सुझाव देती है।
हम सत्य को नहीं आंकते। हम पक्षपात हटाकर दिखाते हैं कि किन दृष्टिकोणों ने इस कहानी को कवर किया। आप तय करें।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति