Reduza os custos de LLMs em 80% com otimização inteligente de tokens
A otimização de tokens é a habilidade crucial que separa aplicações de LLMs com custo-efetividade de experimentos que drenam o orçamento.
Suas fotos em backup auto-hospedado com IA
Immich é uma solução revolucionária de código aberto e autohospedada para gerenciamento de fotos e vídeos que lhe dá controle total sobre suas memórias. Com recursos que rivalizam com o Google Fotos - incluindo reconhecimento facial alimentado por IA, pesquisa inteligente e backup automático móvel - mantendo todos os seus dados privados e seguros no seu próprio servidor.
Benchmarks do GPT-OSS 120b em três plataformas de IA
Descobri alguns testes de desempenho interessantes do GPT-OSS 120b rodando no Ollama em três plataformas diferentes: NVIDIA DGX Spark, Mac Studio e RTX 4080. O modelo GPT-OSS 120b da biblioteca Ollama pesa 65 GB, o que significa que ele não cabe na VRAM de 16 GB de uma RTX 4080 (ou na mais recente RTX 5080).
Construa servidores MCP para assistentes de IA com exemplos em Python
O Protocolo de Contexto de Modelo (MCP) está revolucionando a forma como assistentes de IA interagem com fontes de dados externas e ferramentas. Neste guia, exploraremos como construir servidores MCP em Python, com exemplos focados em capacidades de pesquisa e raspagem web.
Referência rápida para comandos do Docker Model Runner
Docker Model Runner (DMR) é a solução oficial do Docker para executar modelos de IA localmente, introduzida em abril de 2025. Esta lista de comandos essenciais fornece uma referência rápida para todos os comandos, configurações e melhores práticas.
Compare o Docker Model Runner e o Ollama para LLM locais.
Execução local de grandes modelos de linguagem (LLMs) tornou-se cada vez mais popular devido à privacidade, controle de custos e capacidades offline. O cenário mudou significativamente em abril de 2025, quando a Docker introduziu o Docker Model Runner (DMR), sua solução oficial para implantação de modelos de IA.
As ASICs e o silício personalizado aumentam a velocidade e a eficiência da inferência de LLMs.
O futuro da IA não se trata apenas de modelos mais inteligentes. Também se trata de silício que corresponda à forma como esses modelos são realmente servidos. O hardware especializado para inferência de LLMs segue um caminho reminiscente da transição da mineração de Bitcoin das GPUs para ASICs de propósito específico, mas com restrições ainda mais rígidas, pois os modelos e as receitas de precisão continuam a evoluir.
Disponibilidade, preços reais no varejo em seis países e comparação com o Mac Studio.
NVIDIA DGX Spark é real, está à venda a partir de 15/10/2025 e é direcionado a desenvolvedores de CUDA que precisam de trabalho local com LLMs e uma pilha de IA integrada da NVIDIA. O preço de varejo nos EUA (MSRP) é de $3.999; o preço de varejo no Reino Unido/Alemanha/Japão é mais alto devido ao IVA e aos canais de distribuição. Os preços públicos em AUD/KRW ainda não foram amplamente publicados.
Integre Ollama com Go: guia da SDK, exemplos e melhores práticas para produção.
Este guia fornece uma visão abrangente dos SDKs em Go para Ollama e compara seus conjuntos de recursos.
Comparando velocidade, parâmetros e desempenho desses dois modelos
Aqui está uma comparação entre Qwen3:30b e GPT-OSS:20b, focando no seguimento de instruções e nos parâmetros de desempenho, especificações e velocidade.
Não é muito agradável.
Os modelos GPT-OSS da Ollama apresentam problemas recorrentes no manuseio de saída estruturada, especialmente quando utilizados com frameworks como LangChain, SDK da OpenAI, vllm e outros.
Algumas maneiras de obter saída estruturada do Ollama
Grandes Modelos de Linguagem (LLMs) são poderosos, mas em produção raramente queremos parágrafos em formato livre. Em vez disso, queremos dados previsíveis: atributos, fatos ou objetos estruturados que você pode alimentar em um aplicativo. Isso é Saída Estruturada de LLM.
Meu próprio teste de agendamento de modelos Ollama
Aqui estou comparando quanto VRAM a nova versão do Ollama alocava para o modelo em relação à versão anterior do Ollama. A nova versão é pior.
Minha visão sobre o estado atual do desenvolvimento do Ollama
Ollama tornou-se rapidamente uma das ferramentas mais populares para executar LLMs localmente. Sua interface de linha de comando simples e o gerenciamento de modelos streamlined o tornaram uma opção preferida para desenvolvedores que desejam trabalhar com modelos de IA fora da nuvem.
Visão geral rápida das principais interfaces de usuário para Ollama em 2025
O Ollama hospedado localmente permite executar modelos de linguagem grandes na sua própria máquina, mas usá-lo via linha de comando não é amigável. Aqui estão vários projetos de código aberto que oferecem interfaces estilo ChatGPT que se conectam a uma instância local do Ollama.
Comparação de ferramentas e linguagens de engenharia de software
A newsletter The Pragmatic Engineer publicou há alguns dias estatísticas de pesquisa sobre a popularidade de linguagens de programação, IDEs e ferramentas de IA e outros dados para meados de 2025.
