शोधकर्ताओं ने पाया है कि Hugging Face पर होस्ट किए गए छवि संपादन मॉडल का आसानी से उपयोग स्पष्ट डीपफेक सामग्री उत्पन्न करने के लिए किया जा सकता है। सॉफ़्टवेयर के साथ उपयोग किए गए 1,000 से अधिक संकेतों की समीक्षा से पता चला कि व्यक्ति इन उपकरणों का उपयोग कैसे कर रहे हैं।
अनुसंधान ने Hugging Face पर उपलब्ध शीर्ष छवि संपादन मॉडल के भीतर एक महत्वपूर्ण भेद्यता को उजागर किया, जो कृत्रिम बुद्धिमत्ता उपकरणों को साझा और परीक्षण करने के लिए एक लोकप्रिय मंच है। शोधकर्ताओं ने पाया कि इन मॉडलों में स्पष्ट डीपफेक बनाने के लिए आसानी से हेरफेर किया जा सकता है। इससे हानिकारक उद्देश्यों के लिए AI तकनीक के संभावित दुरुपयोग के बारे में चिंताएं बढ़ गई हैं।
विशेष रूप से, अध्ययन में प्लेटफ़ॉर्म उपयोगकर्ताओं द्वारा सबमिट किए गए 1,000 से अधिक छवि संपादन संकेतों का विश्लेषण शामिल था। निष्कर्षों ने इन मॉडलों का उपयोग करके यौन स्पष्ट छवियों को उत्पन्न करने की कोशिश कर रहे व्यक्तियों का एक स्पष्ट पैटर्न दिखाया। जबकि Hugging Face के पास सुरक्षा उपाय हैं, शोधकर्ता उन्हें अपेक्षाकृत आसानी से बायपास करने में सक्षम थे, यह दर्शाता है कि वर्तमान उपाय ऐसी सामग्री के निर्माण को रोकने के लिए अपर्याप्त हैं।
इस खोज के निहितार्थ तत्काल डीपफेक पोर्नोग्राफी मुद्दे से परे तक फैले हुए हैं। यह AI डेवलपर्स के सामने आने वाली एक व्यापक चुनौती पर प्रकाश डालता है: उनके प्रौद्योगिकी के दुर्भावनापूर्ण अनुप्रयोगों से बचाने की आवश्यकता के साथ खुले पहुंच और नवाचार को संतुलित करना। शोधकर्ताओं के निष्कर्ष बताते हैं कि Hugging Face जैसे प्लेटफार्मों को अपनी मॉडरेशन प्रणालियों को मजबूत करने और हानिकारक डीपफेक के निर्माण और प्रसार को रोकने के लिए अधिक मजबूत सुरक्षा उपाय विकसित करने चाहिए।
हम सत्य को नहीं आंकते। हम पक्षपात हटाकर दिखाते हैं कि किन दृष्टिकोणों ने इस कहानी को कवर किया। आप तय करें।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति