SelfHosting

Minne förvandlar assistenter från reaktiva till bestående, men det är också där många system tyst förfaller. Undersökningar hävdar att uppdelningen mellan kort- och långtidsminne inte längre räcker för modern agentminne; OpenAI och LangGraph SDK:er pekar på en enklare stack — arbetsminne, bestående tillstånd och hämtning.

Open-source-ram för AI-agenter exploderar i popularitet på GitHub. Två projekt som ligger i kärnan av ekosystemet för självhushållande AI-system — OpenClaw och Hermes Agent — har dragit så långt ifrån att resten av fältet slåss om en fjärran tredjeplats.

Jag testade prestandan för spekulativ dekodning (Multi-Token Prediction, MTP) i Qwen 3.6 27B och 35B på en RTX 4080 med 16 GB VRAM.

Routerläge för llama.cpp är en av de mest användbara förändringarna i llama-server på flera år. Det ger slutligen lokala aktörer av LLM (Large Language Models) något som liknar modellhanteringsupplevelsen som man förväntar sig från Ollama, samtidigt som det behåller den råa prestanda och den lågnivåkontroll som gör llama.cpp värd att använda i första hand.

Denna sida är en praktisk referens för justering av agentic LLM-inferens (temperatur, top_p, top_k, strafftermer och hur de samverkar i flerstegs- och verktygstäta arbetsflöden).

Du chattar redan med Hermes Agent från din telefon med text. Nu vill du prata med den direkt och få muntliga svar tillbaka. Det är oftast rätt val, särskilt om du redan använder Hermes som en självhostad assistent. Att skriva långa prompter på en liten skärm är långsamt och benäget för fel

Hermes Agent levereras med ett Kanban-styrt flödessystem och Hermes Gateway, vilket kan mätta din egenhostade LLM om för många uppgifter skickas ut samtidigt.

Hermes Agent behandlar färdigheter (skills) som det vanliga sättet att lära ut återanvändbara arbetsflöden. Officiell dokumentation beskriver dem som kunskapsdokument på begäran, anpassade efter den öppna agentskills.io-specifikationen, och de laddas genom progressiv diskling (progressive disclosure) så att modellen först ser en liten index och endast hämtar fullständiga instruktioner när en uppgift faktiskt kräver dem.

Hermes Agent från Nous Research är en modellagnostisk, verkstugsanvändande assistent som du kör lokalt eller på en VPS.

MinIO Community Edition är inte längre ett säkert standardval för nya produktionsystem.

Moderna assistenter glömmer fortfarande allt när du stänger fliken om inte något överlever kontextfönstret. Tjänster för agenterminne (agent memory providers) är tjänster eller bibliotek som lagrar fakta och sammanfattningar över sessioner — ofta integrerade som plugin så att ramverket förblir lättviktigt medan minnet skalas.

Denna sektion samlar guider om bestående kunskap och minne för AI-system — hur assistenter behåller fakta, preferenser och sammanfattad kontext över sessioner utan att stoppa in varje token i en enda prompt. Här innebär minne medveten bevarande (användarfakta, sammanfattningar, pluginbaserade lagringar), inte GPU-minne eller modellvikt.

Du känner igen mönstret. Du öppnar en chatt med en AI-assistent, förklarar ditt projekt, delar dina preferenser, får lite arbete gjort och stänger fliken. När du kommer tillbaka veckan efter är det som att prata med en främling — all kontext är borta, varje preferens är glömd och projektet måste förklaras från scratch.

OpenClaw misslyckades inte som produkt. Den förlorade sin drivkraft.

I en längre tid hade llama.cpp en påtaglig begränsning:
du kunde bara servera en modell per process, och att byta krävde en omstart.

Personlig kunskapsförvaltning omfattar Obsidian, Logseq, DokuWiki, Zettelkasten och PARA — rätt val beror på om du vill ha en lokal notgraf, en självhostad wiki eller ett arbetsflöde drivet av utdragning (outliner).