Ai

J’ai testé les performances de la décodage spéculatif (Multi-Token Prediction, MTP) sur les modèles Qwen 3.6 27B et 35B avec une RTX 4080 dotée de 16 Go de VRAM.

Mode routeur de llama.cpp est l’un des changements les plus utiles apportés à llama-server depuis des années. Il offre enfin aux opérateurs de LLM locaux une expérience de gestion des modèles proche de celle attendue d’Ollama, tout en conservant les performances brutes et le contrôle de bas niveau qui rendent llama.cpp intéressant à utiliser en premier lieu.

Le principe est simple : les connaissances compilées sont plus réutilisables que les fragments récupérés. RAG est devenu la réponse par défaut à une question simple : comment donner à un LLM (modèle de langage) l’accès à des connaissances externes ?

PKM, RAG, wikis, systèmes de mémoire IA et, plus récemment, les flux de travail pratiques assistés par l’IA sont souvent discutés comme s’ils résolvaient le même problème. Ce n’est pas le cas. Ils traitent tous de la connaissance, mais ils opèrent à différents niveaux :

La plupart des tutoriels sur les « sorties structurées » des LLM manquent de sérieux. Ils vous apprennent à demander du JSON poliment, puis à espérer que le modèle se comporte correctement. Ce n’est pas de la validation. C’est de l’optimisme entre accolades.

Cette page est une référence pratique pour l’optimisation de l’inférence des LLMs agents (température, top_p, top_k, pénalités, et comment ils interagissent dans les flux de travail multi-étapes et intensifs en outils).

Vous discutez déjà avec l’agent Hermes depuis votre téléphone par messages texte. Vous souhaitez désormais lui parler directement et recevoir des réponses vocales. C’est généralement la bonne approche, surtout si vous utilisez déjà Hermes comme assistant auto-hébergé persistant. Taper de longs prompts sur un petit écran est lent et sujet aux erreurs.

Hermes Agent est livré avec un tableau Kanban et la passerelle Hermes qui peuvent saturer votre LLM auto-hébergé si trop de tâches sont expédiées simultanément.

Hermes Agent traite les compétences comme la méthode par défaut pour enseigner des workflows répétables. La documentation officielle les décrit comme des documents de connaissances à la demande alignés sur le format ouvert agentskills.io, chargés via une divulgation progressive afin que le modèle voie d’abord un petit index et ne charge les instructions complètes que lorsqu’une tâche en a réellement besoin.

L’agent Hermes de Nous Research est un assistant agnostique des modèles, capable d’utiliser des outils, que vous exécutez localement ou sur un VPS.

La plupart des stacks d’agents IA considèrent encore la sécurité comme une correction à appliquer après la démonstration. NemoClaw part du principe inverse et fait de l’isolation, des politiques et du routage des valeurs par défaut dès le premier jour.

Mise à jour en septembre 2026 : ajout de Mnemosyne et Memori, extension de la configuration Honcho et Hindsight, et ajout d’une comparaison des politiques de capture à côté du tableau d’infrastructure original.

Cette section rassemble des guides sur les systèmes de connaissance persistante et de mémoire pour les systèmes d’IA — la manière dont les assistants conservent les faits, les préférences et le contexte distillé au fil des sessions, sans entasser chaque jeton dans une seule invite. Ici, la mémoire désigne une rétention intentionnelle (faits liés à l’utilisateur, résumés, magasins de données gérés par des plugins), et non la mémoire vive (RAM) du GPU ou les poids du modèle.

Vous connaissez le scénario. Vous ouvrez un chat avec un agent IA, vous expliquez votre projet, vous partagez vos préférences, vous accomplissez quelques tâches, puis vous fermez l’onglet. Revenez la semaine suivante et c’est comme parler à un inconnu — tout le contexte a disparu, toutes les préférences ont été oubliées, le projet doit être réexpliqué de zéro.

OpenClaw n’a pas échoué en tant que produit. Il a perdu son carburant.

Pendant longtemps, llama.cpp présentait une limite flagrante : vous ne pouviez servir qu’un modèle par processus, et le changement impliquait un redémarrage.