Selfhosting

J’ai testé les performances de la décodage spéculatif (Multi-Token Prediction, MTP) sur les modèles Qwen 3.6 27B et 35B avec une RTX 4080 dotée de 16 Go de VRAM.

Mode routeur de llama.cpp est l’un des changements les plus utiles apportés à llama-server depuis des années. Il offre enfin aux opérateurs de LLM locaux une expérience de gestion des modèles proche de celle attendue d’Ollama, tout en conservant les performances brutes et le contrôle de bas niveau qui rendent llama.cpp intéressant à utiliser en premier lieu.

Cette page est une référence pratique pour l’optimisation de l’inférence des LLMs agents (température, top_p, top_k, pénalités, et comment ils interagissent dans les flux de travail multi-étapes et intensifs en outils).

Vous discutez déjà avec l’agent Hermes depuis votre téléphone par messages texte. Vous souhaitez désormais lui parler directement et recevoir des réponses vocales. C’est généralement la bonne approche, surtout si vous utilisez déjà Hermes comme assistant auto-hébergé persistant. Taper de longs prompts sur un petit écran est lent et sujet aux erreurs.

Hermes Agent est livré avec un tableau Kanban et la passerelle Hermes qui peuvent saturer votre LLM auto-hébergé si trop de tâches sont expédiées simultanément.

Hermes Agent traite les compétences comme la méthode par défaut pour enseigner des workflows répétables. La documentation officielle les décrit comme des documents de connaissances à la demande alignés sur le format ouvert agentskills.io, chargés via une divulgation progressive afin que le modèle voie d’abord un petit index et ne charge les instructions complètes que lorsqu’une tâche en a réellement besoin.

L’agent Hermes de Nous Research est un assistant agnostique des modèles, capable d’utiliser des outils, que vous exécutez localement ou sur un VPS.

MinIO Community Edition n’est plus un choix par défaut sûr pour les nouveaux systèmes de production.

Mise à jour en septembre 2026 : ajout de Mnemosyne et Memori, extension de la configuration Honcho et Hindsight, et ajout d’une comparaison des politiques de capture à côté du tableau d’infrastructure original.

Cette section rassemble des guides sur les systèmes de connaissance persistante et de mémoire pour les systèmes d’IA — la manière dont les assistants conservent les faits, les préférences et le contexte distillé au fil des sessions, sans entasser chaque jeton dans une seule invite. Ici, la mémoire désigne une rétention intentionnelle (faits liés à l’utilisateur, résumés, magasins de données gérés par des plugins), et non la mémoire vive (RAM) du GPU ou les poids du modèle.

Vous connaissez le scénario. Vous ouvrez un chat avec un agent IA, vous expliquez votre projet, vous partagez vos préférences, vous accomplissez quelques tâches, puis vous fermez l’onglet. Revenez la semaine suivante et c’est comme parler à un inconnu — tout le contexte a disparu, toutes les préférences ont été oubliées, le projet doit être réexpliqué de zéro.

OpenClaw n’a pas échoué en tant que produit. Il a perdu son carburant.

Pendant longtemps, llama.cpp présentait une limite flagrante : vous ne pouviez servir qu’un modèle par processus, et le changement impliquait un redémarrage.

La gestion des connaissances personnelles s’étend sur Obsidian, Logseq, DokuWiki, Zettelkasten et PARA — le bon choix dépend de savoir si vous souhaitez un graphe de notes local, un wiki auto-hébergé ou un flux de travail basé sur un outliner.

L’assistant IA Hermes, officiellement documenté sous le nom de Hermes Agent, n’est pas positionné comme un simple wrapper de chat.

OpenClaw possède deux types d’extensions, et il est facile de les confondre.

Les plugins étendent le temps d’exécution (runtime). Les compétences (skills) étendent le comportement de l’agent.