Selfhosting

Início Rápido do llama.cpp com CLI e Servidor

Início Rápido do llama.cpp com CLI e Servidor

Como instalar, configurar e usar o OpenCode

Continuo voltando ao llama.cpp para inferência local — ele oferece um controle que o Ollama e outros abstraem, e simplesmente funciona. É fácil executar modelos GGUF interativamente com llama-cli ou expor uma API HTTP compatível com a OpenAI com llama-server.

Frontends de LLM

Frontends de LLM

Não há tantas opções para escolher, mas ainda assim....

Quando comecei a experimentar com LLMs, as interfaces gráficas (UIs) para eles estavam em desenvolvimento ativo e agora algumas delas são realmente boas.