Ai

Probé el rendimiento de la decodificación especulativa (Predicción Multitoken, MTP) en Qwen 3.6 27B y 35B en una RTX 4080 con 16 GB de VRAM.

Modo router de llama.cpp es uno de los cambios más útiles en llama-server en años. Finalmente ofrece a los operadores de LLM locales una experiencia de gestión de modelos cercana a la que las personas esperan de Ollama, manteniendo al mismo tiempo el rendimiento bruto y el control a bajo nivel que hacen que llama.cpp valga la pena usarlo en primer lugar.

La premisa es simple: el conocimiento compilado es más reutilizable que los fragmentos recuperados. RAG se convirtió en la respuesta predeterminada a una pregunta directa: ¿cómo proporciono a un LLM acceso a conocimiento externo?

La gestión del conocimiento personal (PKM), la generación aumentada por recuperación (RAG), las wikis, los sistemas de memoria de IA y, ahora, los flujos de trabajo prácticos asistidos por IA, suelen discutirse como si resolvieran el mismo problema. No es así. Todos tratan con el conocimiento, pero operan en diferentes capas:

La mayoría de los tutoriales sobre “salida estructurada” de los LLM son poco serios. Te enseñan a pedir JSON amablemente y luego a esperar que el modelo se comporte. Eso no es validación. Eso es optimismo con llaves.

Esta página es una referencia práctica para la afinación de inferencia de LLMs agentivos (temperatura, top_p, top_k, penalizaciones y cómo interactúan en flujos de trabajo multietapa y con uso intensivo de herramientas).

Ya puedes chatear con Hermes Agent desde tu teléfono usando texto. Ahora quieres hablar con él directamente y recibir respuestas habladas. Eso suele ser la mejor opción, especialmente si ya usas Hermes como asistente autohospedado persistente. Escribir instrucciones largas en una pantalla pequeña es lento y propenso a errores.

El agente Hermes incluye un tablero estilo Kanban y el Hermes Gateway, que pueden saturar su LLM autoalojado si se asignan demasiadas tareas a la vez.

Hermes Agent trata las habilidades como la forma predeterminada para enseñar flujos de trabajo repetibles. La documentación oficial las describe como documentos de conocimiento bajo demanda alineados con el formato abierto de agentskills.io, cargados mediante divulgación progresiva, de modo que el modelo ve primero un índice pequeño y solo recupera las instrucciones completas cuando una tarea realmente las necesita.

El agente Hermes de Nous Research es un asistente agnóstico de modelos y con capacidad de uso de herramientas que puede ejecutar de forma local o en un VPS.

La mayoría de las pilas de agentes de IA siguen tratando la seguridad como una corrección posterior a la demostración. NemoClaw parte de la suposición opuesta y establece el aislamiento, la política y el enrutamiento como valores predeterminados desde el primer día.

Actualizado septiembre de 2026: se han añadido Mnemosyne y Memori, se ha ampliado la configuración de Honcho y Hindsight, y se ha añadido una comparación de políticas de captura junto a la tabla de infraestructura original.

Esta sección recopila guías sobre conocimiento y memoria persistente para sistemas de IA: cómo los asistentes conservan hechos, preferencias y contexto destilado entre sesiones sin saturar cada token en un único prompt. Aquí, la memoria implica retención intencional (hechos del usuario, resúmenes, almacenes respaldados por complementos), y no la RAM de la GPU ni los pesos del modelo.

Ya sabes cómo funciona. Abres un chat con un agente de IA, explicas tu proyecto, compartes tus preferencias, terminas cierta cantidad de trabajo y cierras la pestaña. Vuelves la semana siguiente y es como hablar con un desconocido: todo el contexto ha desaparecido, cada preferencia ha sido olvidada y el proyecto se vuelve a explicar desde cero.

OpenClaw no fracasó como producto. Perdió su combustible.

Durante mucho tiempo, llama.cpp tuvo una limitación flagrante:
solo se podía servir un modelo por proceso, y cambiar de modelo implicaba un reinicio.