Cheatsheet

Hermes Agent von Nous Research ist ein modellagnostischer, werkzeugnutzender Assistent, den Sie lokal oder auf einem VPS ausführen können.

Die meisten KI-Agent-Stacks behandeln Sicherheit nach wie vor als ein Problem, das erst nach der Demo behoben wird. NemoClaw geht von der entgegengesetzten Annahme aus und macht Isolation, Richtlinien und Routing von Anfang an zur Standardeinstellung.

Seit langem hatte llama.cpp eine eklatante Einschränkung:
Man konnte nur ein Modell pro Prozess bereitstellen, und ein Wechsel erforderte einen Neustart.

Batch-Dateien und Shell-Skripte benötigen oft eine kurze Verzögerung, damit ein per Doppelklick geöffnetes Fenster oder ein Installer-Log sichtbar bleibt. Windows CMD verfügt über einen speziellen pause-Befehl. Unix-Shell-Umgebungen nutzen read.

SGLang ist ein leistungsfähiges Bereitstellungsframework für große Sprachmodelle und multimodale Modelle, das entwickelt wurde, um Inferenz mit geringer Latenz und hohem Durchsatz von einzelnen GPUs bis hin zu verteilten Clustern zu ermöglichen.

Bald jonglieren Sie mit vLLM, llama.cpp und mehr – jeder Stack auf einem eigenen Port. Alles nachgeschaltete System erwartet dennoch eine einzige /v1-Basis-URL; andernfalls sortieren Sie ständig Ports, Profile und Einmal-Skripte neu. llama-swap ist der /v1-Proxy vor diesen Stacks.

OpenHands ist eine Open-Source-Plattform, die modellagnostisch für KI-gesteuerte Softwareentwicklungs-Agenten ist. Sie ermöglicht es einem Agenten, sich mehr wie ein Coding-Partner als wie ein einfaches Autovervollständigungstool zu verhalten.

LocalAI ist ein selbstgehosteter, lokal-first Inferenzserver, der sich wie eine Drop-in OpenAI API verhält, um KI-Arbeitslasten auf Ihrer eigenen Hardware (Laptop, Workstation oder lokaler Server) auszuführen.

Ich komme immer wieder zu llama.cpp für die lokale Inferenz zurück – es gibt Ihnen Kontrolle, die Ollama und andere abstrahieren, und es funktioniert einfach. Das interaktive Ausführen von GGUF-Modellen mit llama-cli oder das Bereitstellen einer OpenAI-kompatiblen HTTP-API mit llama-server ist einfach.

OpenCode ist ein Open-Source-AI-Coding-Agent, den Sie im Terminal (TUI + CLI) mit optionalen Desktop- und IDE-Oberflächen ausführen können. Dies ist der OpenCode Quickstart: Installation, Verifikation, Verbindung eines Modells/Anbieters und Ausführung realer Workflows (CLI + API).

Die Wahl des richtigen Browser-Automatisierungs-Stacks und Web-Scraping in Go beeinflusst Geschwindigkeit, Wartung und den Ort, an dem Ihr Code läuft.

Desktop-Startprogramme unter Ubuntu 24 (und die meisten Linux-Desktops) werden durch .desktop-Dateien definiert: kleine, textbasierte Konfigurationsdateien, die eine Anwendung oder einen Link beschreiben.

Die Wahl des richtigen Browser-Automatisierungs-Stacks in Python beeinflusst Geschwindigkeit, Stabilität und Wartung.
Dieser Überblick vergleicht
Playwright vs Selenium vs Puppeteer vs LambdaTest vs ZenRows vs Gauge –
mit Schwerpunkt auf Python, wobei auch erwähnt wird, wo Node.js oder andere Sprachen eine Rolle spielen.

Zwei starke Optionen für das Erstellen von Terminalbenutzeroberflächen heute sind BubbleTea (Go) und Ratatui (Rust). Eine bietet Ihnen einen opinionierten, Elm-stiligen Rahmen; die andere eine flexible, immediate-mode-Bibliothek.

Steigern Sie die Produktivität mit Jupyter Notebook mit wesentlichen Shortcuts, Zauberbefehlen und Workflow-Tipps, die Ihr Datenwissenschafts- und Entwicklererlebnis transformieren werden.

Unverträglichkeiten bei Zeilenenden zwischen Windows- und Linux-Systemen führen zu Formatierungsproblemen, Git-Warnungen und Skriptfehlern. Dieser umfassende Leitfaden behandelt Erkennungs-, Umwandlungs- und Präventionsstrategien.