एक नया साप्ताहिक न्यूज़लेटर, लोकल एआई वीकली, स्थानीय कृत्रिम बुद्धिमत्ता उपकरणों में हाल के विकास को उजागर करता है, वर्तमान में एआई एजेंटों पर जोर दिया गया है। कई ओपन-सोर्स प्रोजेक्ट का उद्देश्य एजेंटों की कार्यक्षमता, जवाबदेही और संसाधन उपयोग में सुधार करना है।
Itsfoss के निर्माता ने नोट किया कि पहला अंक एक पायलट था और न्यूज़लेटर अब साप्ताहिक रूप से जारी किया जाएगा। यह संस्करण एआई एजेंटों पर केंद्रित है, क्योंकि वर्तमान में स्थानीय एआई विकास का बहुत कुछ यहीं हो रहा है।
Unsloth एक ओपन-सोर्स फ्रेमवर्क है जिसे ओपन मॉडल के तेज़ फाइन-ट्यूनिंग और संचालन के लिए डिज़ाइन किया गया है, जिसके लिए कम VRAM की आवश्यकता होती है। फ्रेमवर्क के डायनेमिक जीजीयूएफ क्वांटाइज़ेशन के अनुसार, 17GB RAM के आसपास के सिस्टम पर 27B-क्लास मॉडल को चलाने की अनुमति मिलती है, और 1-बिट बिल्ड 8GB के साथ काम कर सकते हैं। लोकल एआई वीकली के निर्माता Nvidia RTX Ada 2000 के साथ ZimaCube पर Unsloth का परीक्षण कर रहे हैं और भविष्य के अंक में परिणाम साझा करेंगे।
तीन हाल ही में खोजे गए एआई उपकरण एजेंट व्यवहार पर ध्यान केंद्रित करते हैं। Agent-inspect, TypeScript एआई एजेंटों के लिए एक स्थानीय डिबगर है, जो मुद्दों की पहचान करने के लिए एक पठनीय निष्पादन वृक्ष प्रदान करता है और CI चेक विफलताओं और संपादित ट्रेस साझा करने की अनुमति देता है। AutoMem एजेंटों के लिए एक लगातार मेमोरी लेयर है, जो बेहतर रिकॉल और संदर्भ के लिए जानकारी को एक ग्राफ और वेक्टर इंडेक्स में संग्रहीत करता है। BrowserSkill, Tencent द्वारा विकसित, एजेंटों को सैंडबॉक्स के बजाय उपयोगकर्ता के मौजूदा ब्राउज़र सत्र का उपयोग करने की अनुमति देता है, [CAPTCHA] या लॉगिन के लिए नियंत्रण उपयोगकर्ता को वापस कर देता है।
llmfit एक टर्मिनल टूल है जो उपयोगकर्ताओं को CPU, RAM और GPU विनिर्देशों का पता लगाकर और तदनुसार मॉडल को रैंक करके यह निर्धारित करने में मदद करता है कि उनका हार्डवेयर कौन से ओपन मॉडल चला सकता है।
मूल कवरेज पढ़ें
💬 टिप्पणियाँ
📜 टिप्पणी नीति