Selfhosting

KI-Systeme – Gedächtnis: Persistente Kenntnisse und Agenten-Gedächtnis

KI-Systeme – Gedächtnis: Persistente Kenntnisse und Agenten-Gedächtnis

Persistente Informationen über einzelne Chat-Threads hinaus.

Dieser Abschnitt bündelt Anleitungen zu persistentem Wissen und Speicher für KI-Systeme – wie Assistenten Fakten, Präferenzen und verdichteten Kontext über Sitzungen hinweg beibehalten, ohne jeden Token in einen einzigen Prompt zu stopfen. Hier bedeutet Speicher bewusste Speicherung (Benutzerfakten, Zusammenfassungen, durch Plugins unterstützte Stores), nicht GPU-Speicher oder Modellgewichte.

Hermes-Agent-Medaisystem: Wie persistente KI-Speicherfunktionen tatsächlich funktionieren

Hermes-Agent-Medaisystem: Wie persistente KI-Speicherfunktionen tatsächlich funktionieren

Gedächtnis ist der Unterschied zwischen einem Werkzeug und einem Partner.

Sie kennen das Spiel. Sie öffnen einen Chat mit einem KI-Agenten, erklären Ihr Projekt, teilen Ihre Präferenzen, erledigen etwas Arbeit und schließen den Tab. Kommen Sie in der folgenden Woche zurück, ist es, als würden Sie mit einem Fremden sprechen – der gesamte Kontext ist verschwunden, jede Präferenz vergessen, das Projekt von Grund auf neu erklärt.

Vane (Perplexica 2.0) Quickstart mit Ollama und llama.cpp

Vane (Perplexica 2.0) Quickstart mit Ollama und llama.cpp

Selbst gehostete KI-Suche mit lokalen LLMs

Vane ist einer der pragmatischeren Vertreter im Bereich „KI-Suche mit Quellenangaben": eine selbst gehostete Antwort-Engine, die die Live-Webrecherche mit lokalen oder Cloud-LLMs kombiniert, während der gesamte Stack unter Ihrer Kontrolle bleibt.

Hermes KI-Assistent – Installation, Einrichtung, Workflow und Fehlerbehebung

Hermes KI-Assistent – Installation, Einrichtung, Workflow und Fehlerbehebung

Hermes-Agent: Installation und Schnellstart für Entwickler

Hermes Agent ist ein selbst gehosteter, modell-agnostischer KI-Assistent, der auf einem lokalen Rechner oder einem kostengünstigen VPS läuft, über Terminal- und Messaging-Schnittstellen arbeitet und mit der Zeit besser wird, indem er wiederkehrende Aufgaben in wiederverwendbare Skills umwandelt.

llama.swap Modellumschalter: Schnelleinstieg für OpenAI-kompatible lokale LLMs

llama.swap Modellumschalter: Schnelleinstieg für OpenAI-kompatible lokale LLMs

Lokale LLMs per Hot-Swap austauschen, ohne die Clients anzupassen.

Bald jonglierst du mit vLLM, llama.cpp und weiteren – jeder Stack auf seinem eigenen Port. Alles, was downstream liegt, erwartet weiterhin eine einzige /v1-Basis-URL; andernfalls musst du ständig Ports, Profile und Einmalskripte umstellen. llama-swap ist die /v1-Proxy-Schicht vor diesen Stacks.