Self-Hosting

A Ollama tornou-se rapidamente uma das ferramentas mais populares para executar LLMs localmente.

Sua CLI simples e gestão de modelos simplificada tornaram-na uma opção preferencial para desenvolvedores que desejam trabalhar com modelos de IA fora da nuvem.

Mumble é um aplicativo de voz sobre IP (VoIP) gratuito e de código aberto, projetado principalmente para comunicação de voz em tempo real. Ele utiliza uma arquitetura cliente-servidor, onde os usuários se conectam a um servidor compartilhado para conversar entre si.

O Ollama hospedado localmente permite executar modelos de linguagem grandes na sua própria máquina, mas usá-lo via linha de comando não é amigável. Aqui estão vários projetos de código aberto que oferecem interfaces estilo ChatGPT que se conectam a uma instância local do Ollama.

Aplicações de monitoramento de carga da GPU: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Aqui está um passo a passo para a instalação de um cluster K3s de 3 nós em servidores bare-metal (1 mestre + 2 workers).

Comparando distribuições de Kubernetes auto-hospedado para hospedagem em servidores bare-metal ou domésticos, focando na facilidade de instalação, desempenho, requisitos de sistema e conjunto de recursos.

Estou comparando variantes auto-hospedadas do Kubernetes adequadas para um homelab baseado em Ubuntu com 3 nós (16 GB de RAM, 4 núcleos cada), focando na facilidade de configuração e manutenção, suporte a volumes persistentes e LoadBalancers.

GitHub Actions é uma plataforma de automação e CI/CD dentro do GitHub, usada para compilar, testar e implantar seu código com base em eventos como pushes, pull requests ou em um horário agendado.

Aqui está uma Guia de referência do Docker Compose com exemplos anotados para ajudar você a dominar arquivos e comandos do Compose rapidamente.

Aqui está uma análise detalhada de Obsidian como uma ferramenta poderosa para gestão de conhecimento pessoal (PKM), explicando sua arquitetura, recursos, pontos fortes e como ela suporta fluxos de trabalho modernos de conhecimento.

A Nvidia está prestes a lançar o NVIDIA DGX Spark - um pequeno supercomputador de IA baseado na arquitetura Blackwell, com mais de 128 GB de RAM unificada e desempenho de IA de 1 PFLOPS. Um ótimo dispositivo para executar LLMs.

Vamos dar uma rápida olhada nos provedores e sistemas de análise web como Matomo, Plausible, Google e outros disponíveis para auto-hospedagem e compará-los.

Aqui está o meu conjunto favorito de etapas ao realizar uma instalação limpa do Ubuntu 24.04. O que eu gosto aqui - não é necessário instalar os drivers da NVidia! Eles são instalados automaticamente.

Dokuwiki é uma wikipedia hospedada no próprio servidor que pode ser hospedada facilmente nas próprias instalações e sem a necessidade de qualquer banco de dados. Eu estava rodando ela containerizada em meu cluster kubernetes de estimação.

Vamos comparar os preços das principais GPUs de consumo, adequadas em particular para LLMs e para IA em geral. Especificamente, observe os preços da RTX 5080 e RTX 5090. Eles caíram ligeiramente.

Apache Airflow é uma plataforma de código aberto projetada para criar, agendar e monitorar fluxos de trabalho de forma programática, inteiramente em código Python, oferecendo uma alternativa flexível e poderosa às ferramentas de fluxo de trabalho tradicionais, manuais ou baseadas em interface gráfica.