एंथ्रोपिक के एक प्रमुख शोधकर्ता का अनुमान है कि अगले दशक के भीतर कृत्रिम बुद्धिमत्ता मानव विलुप्त होने का 10% से अधिक जोखिम पैदा कर सकती है, जिससे एआई विकास की गति के बारे में चिंताओं के कारण एक सहकर्मी ने इस्तीफा दे दिया। एंथ्रोपिक के संरेखण विज्ञान प्रमुख, इवान हबिंगर ने X पर यह आकलन किया, साथ ही यह स्वीकार किया कि कंपनी के पास सुपरइंटेलिजेंट एआई की सुरक्षा सुनिश्चित करने की कोई स्पष्ट योजना नहीं है। टिप्पणियां जैकब कॉक्सन के इस्तीफे के बाद आईं, जिन्होंने एंथ्रोपिक और ओपनएआई दोनों पर आत्म-सुधार करने वाले एआई सिस्टम के विकास में गति को सुरक्षा से ऊपर प्राथमिकता देने का आरोप लगाया, यह दावा करते हुए कि वे “हमारे जीवन के साथ जुआ खेल रहे हैं।” कॉक्सन ने विशेष रूप से एआई एजेंटों द्वारा सुरक्षा प्रोटोकॉल के उल्लंघन की घटनाओं का हवाला दिया, जिसमें हाल ही में हगिंग फेस का हैक भी शामिल है। एंथ्रोपिक ने अपने नवीनतम एआई मॉडल, क्लाउड माइथोस 5.1 को यूके आर्टिफिशियल इंटेलिजेंस सेफ्टी इंस्टीट्यूट (AISI) से रोक लिया है, हालांकि कंपनी संस्थान के साथ सहयोग करना जारी रखती है। संयुक्त राष्ट्र की एआई सलाहकार, डेम वेंडी हॉल ने सुझाव दिया कि ये चेतावनियां दोनों कंपनियों के आगामी स्टॉक मार्केट डेब्यू से जुड़ी हो सकती हैं। वर्तमान एआई जोखिमों को कम माना जाता है, हबिंगर ने तीव्र, पुनरावर्ती स्व-सुधार की क्षमता के बारे में चिंता व्यक्त की, एक चिंता जो कॉक्सन ने प्रतिध्वनित की, जो मानते हैं कि जोखिमों को पर्याप्त रूप से संबोधित नहीं किया जा रहा है। फाइनेंशियल टाइम्स ने बताया कि एंथ्रोपिक ने अपने नवीनतम मॉडल को यूके आर्टिफिशियल इंटेलिजेंस सेफ्टी इंस्टीट्यूट (AISI) से रोक दिया है।
वे कहाँ भिन्न हैं
• आरटी ने एआई के बारे में एलोन मस्क की पिछली चेतावनियों पर जोर दिया, जबकि अन्य आउटलेट्स ने नहीं किया।
• सीबीएस न्यूज़ और सीएनबीसी ने एंथ्रोपिक और ओपनएआई के लिए आईपीओ की संभावना पर प्रकाश डाला, चेतावनियों को संभावित रूप से निवेशक चिंताओं से जोड़ा, एक बिंदु जो अन्य रिपोर्टों में कम प्रमुख है।
• टॉमशार्डवेयर ने जोखिम को 2026 में प्लेऑफ़ तक पहुंचने की जेट्स की संभावना से थोड़ा कम बताया, एक हल्का तुलना जो अन्य कवरेज में अनुपस्थित है।
• Axios ने चेतावनियों को 'तीन एंथ्रोपिक शोधकर्ताओं' से आते हुए प्रस्तुत किया, चिंता की सामूहिक प्रकृति पर जोर दिया।
अभी क्या अज्ञात है
• एआई मानव विलुप्त होने का कारण कैसे बन सकता है, इसके विशिष्ट तंत्र अभी तक निर्दिष्ट नहीं हैं।
• इस बात की सीमा कि एंथ्रोपिक का अपने नवीनतम मॉडल को यूके आर्टिफिशियल इंटेलिजेंस सेफ्टी इंस्टीट्यूट (AISI) से रोकने का निर्णय सूचना साझाकरण के एक व्यापक पैटर्न को दर्शाता है, स्पष्ट नहीं है।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति