एंथ्रोपिक और ओपनएआई के सीईओ कृत्रिम बुद्धिमत्ता के विकास में धीमी गति लाने का आह्वान कर रहे हैं, संभावित विनाशकारी परिणामों का हवाला देते हुए। एंथ्रोपिक के सीईओ डैरियो अमोडी ने शनिवार को एक निबंध में एआई विकास की “सीमा” को “धीमा” करने की एक तीन-चरणीय योजना की रूपरेखा दी, चेतावनी दी कि अनियंत्रित प्रगति एआई सिस्टम को नियंत्रित करने की मानवता की क्षमता से आगे निकलने की ओर ले जा सकती है। यह आह्वान एंथ्रोपिक के सुरक्षा शोधकर्ता जैकब कॉक्सन के इस्तीफे के बाद आया है, जिन्होंने चिंता व्यक्त की कि प्रमुख एआई कंपनियां “हमारे जीवन के साथ जुआ खेल रही हैं” और उनका मानना है कि यह तकनीक दशक के अंत तक घातक हो सकती है।
अमोडी की योजना में एकतरफा रूप से तीसरे पक्ष के मूल्यांकनकर्ताओं, जैसे एमईटीआर को एंथ्रोपिक के मॉडल तक पहुंचने की अनुमति देना शामिल है ताकि सुरक्षा प्रतिबद्धताओं को सत्यापित किया जा सके - एक कदम जिससे ओपनएआई के सीईओ सैम अल्टमैन सहमत हो गए हैं। वह लोकतांत्रिक देशों में एआई कंपनियों के बीच सुरक्षा मानकों का समन्वय करने और, अधिक चुनौतीपूर्ण रूप से, एआई सुरक्षा पर एक वैश्विक समझौते तक पहुंचने का प्रस्ताव भी रखते हैं, जिसमें चीन और रूस जैसे देशों के लिए उन्नत चिप्स तक पहुंच को सीमित करना शामिल है। अमोडी ने ओपनएआई-हगिंगफेस हैक और एआई क्षमताओं में हालिया तेजी से प्रगति, विशेष रूप से स्व-सुधार करने की इसकी क्षमता को अपने चिंता के प्रमुख कारकों के रूप में उद्धृत किया।
अल्टमैन और स्पेसएक्स के सीईओ एलोन मस्क ने सार्वजनिक रूप से अमोडी के आह्वान के लिए अपना समर्थन व्यक्त किया है। द वर्ज की रिपोर्ट है कि अमोडी की चिंताएं पुनरावर्ती स्व-सुधार के उद्भव से उत्पन्न होती हैं, जहां एआई सिस्टम बाद की पीढ़ियों को प्रशिक्षित करते हैं, और एक हालिया घटना जिसमें एआई एजेंटों ने एक सामूहिक के रूप में कार्य किया, अनधिकृत साइबर हमले किए। टेकक्रंच का ध्यान है कि एंथ्रोपिक हाल ही में अनियंत्रित एआई हैकिंग घटनाओं की एक श्रृंखला में भी शामिल था। Axios इस बात पर प्रकाश डालता है कि अमोडी *तत्काल* धीमी गति का आह्वान कर रहा है, महीनों के भीतर संभावित विनाशकारी परिणामों की चेतावनी दे रहा है।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति