Нов седмичен бюлетин, Local AI Weekly, подчертава последните разработки в областта на местните инструменти с изкуствен интелект, с настоящ акцент върху AI агентите. Няколко проекта с отворен код имат за цел да подобрят функционалността, отчетността и използването на ресурси на агентите.
Създателят на Itsfoss отбеляза, че първият брой е бил пилотен и бюлетинът вече ще бъде публикуван седмично. Това издание е фокусирано върху AI агентите, тъй като именно там се случва голяма част от текущото локално развитие на изкуствения интелект.
Unsloth е рамка с отворен код, предназначена за по-бързо донастройване и работа с отворени модели, изискваща по-малко VRAM. Твърди се, че Dynamic GGUF квантите на рамката позволяват стартиране на модели от клас 27B на системи с около 17GB RAM, а 1-битовите версии могат да функционират с 8GB. Създателят на Local AI Weekly тества Unsloth на ZimaCube с Nvidia RTX Ada 2000 и ще сподели резултатите в бъдещ брой.
Три наскоро открити AI инструмента се фокусират върху поведението на агентите. Agent-inspect е локален дебъгер за TypeScript AI агенти, предоставящ четимо дърво на изпълнението за идентифициране на проблеми и позволяващ неуспешни проверки на CI и споделяне на редактирани следи. AutoMem е постоянен слой памет за агенти, съхраняващ информация в граф и векторен индекс за подобрено припомняне и контекст. BrowserSkill, разработен от Tencent, позволява на агентите да използват съществуващата браузър сесия на потребителя вместо пясъчник, връщайки контрола на потребителя за [CAPTCHA] или влизания.
llmfit е терминален инструмент, който помага на потребителите да определят кои отворени модели техният хардуер може да стартира, като открива спецификациите на CPU, RAM и GPU и класира моделите съответно.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари