Un nuevo boletín semanal, Local AI Weekly, destaca los últimos avances en herramientas de inteligencia artificial locales, con un énfasis actual en los agentes de IA. Varios proyectos de código abierto tienen como objetivo mejorar la funcionalidad, la responsabilidad y el uso de recursos de los agentes.
El creador de Itsfoss señaló que el primer número fue un piloto y el boletín se publicará ahora semanalmente. Esta edición se centra en los agentes de IA, ya que es donde se está produciendo gran parte del desarrollo local actual de la IA.
Unsloth es un marco de código abierto diseñado para una afinación y operación más rápidas de modelos abiertos, que requiere menos VRAM. Los cuantificadores dinámicos GGUF del marco supuestamente permiten ejecutar modelos de clase 27B en sistemas con alrededor de 17 GB de RAM, y las versiones de 1 bit pueden funcionar con 8 GB. El creador de Local AI Weekly está probando Unsloth en un ZimaCube con una Nvidia RTX Ada 2000 y compartirá los resultados en un número futuro.
Tres herramientas de IA recientemente descubiertas se centran en el comportamiento de los agentes. Agent-inspect es un depurador local para agentes de IA TypeScript, que proporciona un árbol de ejecución legible para identificar problemas y permite fallos en las comprobaciones de CI y el intercambio de rastros editados. AutoMem es una capa de memoria persistente para agentes, que almacena información en un grafo y un índice vectorial para mejorar la recuperación y el contexto. BrowserSkill, desarrollado por Tencent, permite a los agentes utilizar la sesión de navegador existente de un usuario en lugar de un sandbox, devolviendo el control al usuario para [CAPTCHA] o inicios de sesión.
llmfit es una herramienta de terminal que ayuda a los usuarios a determinar qué modelos abiertos puede ejecutar su hardware detectando las especificaciones de CPU, RAM y GPU y clasificando los modelos en consecuencia.
Leer la cobertura original
💬 Comentarios
📜 Política de comentarios