SelfHosting

La memoria trasforma gli assistenti da reattivi a persistenti, ma è anche il punto in cui molti sistemi si deteriorano silenziosamente. Le ricerche sostengono che la divisione tra memoria a breve e a lungo termine non sia più sufficiente per la memoria degli agenti moderni; gli SDK di OpenAI e LangGraph indicano un’architettura più semplice — memoria di lavoro, stato duraturo e recupero.

I framework open source per agenti AI stanno esplodendo di popolarità su GitHub. Due progetti al centro dell’ecosistema dei sistemi AI auto-ospitati — OpenClaw e Hermes Agent — hanno preso un tale vantaggio che il resto del settore si contende un lontano terzo posto.

Ho testato le prestazioni di Speculative Decoding (Multi-Token Prediction, MTP) su Qwen 3.6 27B e 35B su una RTX 4080 con 16 GB di VRAM.

Modalità router di llama.cpp è uno dei cambiamenti più utili a llama-server degli ultimi anni. Fornisce finalmente agli operatori di LLM locali un’esperienza di gestione dei modelli vicina a quella che ci si aspetta da Ollama, mantenendo al contempo le prestazioni grezze e il controllo a basso livello che rendono llama.cpp meritevole di essere utilizzato in primo luogo.

Questa pagina è un riferimento pratico per la regolazione dell’inferenza di LLM agentic (temperatura, top_p, top_k, penalità e come interagiscono in flussi di lavoro multi-step e intensivi nell’uso di strumenti).

Hai già chiacchierato con Hermes Agent dal tuo telefono usando il testo. Ora vuoi parlarci direttamente e ricevere risposte vocali. Questa è solitamente la mossa giusta, soprattutto se utilizzi già Hermes come assistente self-hosted persistente. Digitare prompt lunghi su uno schermo piccolo è lento e soggetto a errori.

L’agente Hermes include una board in stile Kanban e il Hermes Gateway, che può sovraccaricare il tuo LLM self-hosted se vengono inviati troppi compiti contemporaneamente.

Hermes Agent tratta le skills (abilità) come il metodo predefinito per insegnare flussi di lavoro ripetibili. La documentazione ufficiale le descrive come documenti di conoscenza on-demand allineati allo shape open di agentskills.io, caricati tramite progressive disclosure (rivelazione progressiva) in modo che il modello visualizzi prima un piccolo indice e recuperi le istruzioni complete solo quando un compito le richiede effettivamente.

Hermes Agent di Nous Research è un assistente agnostico rispetto al modello e basato su strumenti, che puoi eseguire localmente o su un VPS.

MinIO Community Edition non è più una scelta predefinita sicura per i nuovi sistemi in produzione.

Gli assistenti moderni dimenticano ancora tutto quando chiudi la scheda, a meno che qualcosa non persista al di fuori della finestra di contesto. I provider di memoria per agenti sono servizi o librerie che conservano fatti e riepiloghi tra le sessioni — spesso integrati come plugin in modo che il framework rimanga leggero mentre la memoria scala.

Questa sezione raccoglie guide sulla conoscenza persistente e la memoria per i sistemi AI — come gli assistenti conservano fatti, preferenze e contesto distillato tra le sessioni senza inserire ogni token in un unico prompt. Qui, per memoria si intende la ritenzione intenzionale (fatti dell’utente, riepiloghi, archivi supportati da plugin), non la RAM della GPU o i pesi del modello.

Conosci bene la routine. Apri una chat con un agente AI, spieghi il tuo progetto, condividi le tue preferenze, fai svolgere un po’ di lavoro e chiudi la scheda. Torni la settimana successiva ed è come parlare con uno sconosciuto: tutto il contesto è sparito, ogni preferenza dimenticata, il progetto da spiegare di nuovo da zero.

OpenClaw non ha fallito come prodotto. Ha perso il suo combustibile.

Per molto tempo, llama.cpp presentava una limitazione evidente:
era possibile servire un solo modello per processo e il passaggio da uno all’altro richiedeva un riavvio.

La gestione della conoscenza personale abbraccia Obsidian, Logseq, DokuWiki, Zettelkasten e PARA: la scelta giusta dipende da ciò che desideri, ovvero se preferisci un grafo di note locale, una wiki auto-gestita o un flusso di lavoro guidato da un outliner.