AI

Como o Ollama padrão não possui uma API de rerank direta, você precisará implementar reranking usando o Qwen3 Reranker em GO gerando embeddings para pares de consulta-documento e classificando-os.

Num frio dia de inverno em julho… que é na Austrália… senti a necessidade urgente de treinar um modelo de IA para detectar barras de reforço de concreto não vedadas…

Neste teste, estou comparando como diferentes LLMs hospedados no Ollama traduzem páginas Hugo do inglês para o alemão. Três páginas que testei estavam sobre temas diferentes, tinham alguma marcação markdown com alguma estrutura: cabeçalhos, listas, tabelas, links, etc.

Este pequeno exemplo de código Go para reranking está chamando o Ollama para gerar embeddings para a consulta e para cada documento candidato, em seguida, classificando em ordem decrescente pela similaridade do cosseno.

Como os canais PCIe afetam o desempenho dos LLM? Dependendo da tarefa. Para treinamento e inferência com múltiplos GPUs - a queda de desempenho é significativa.

Na biblioteca de modelos do Ollama existem modelos capazes de converter conteúdo HTML em Markdown, o que é útil para tarefas de conversão de conteúdo.

• Pesquisa é ideal para recuperação rápida e direta de informações usando palavras-chave.
• Pesquisa Profunda destaca-se por compreender o contexto e a intenção, entregando resultados mais relevantes e abrangentes para consultas complexas.

Listarei aqui algumas ferramentas de codificação assistidas por IA e Assistentes de Codificação com IA e seus lados positivos.

Usar LLMs não é muito caro, talvez não haja necessidade de comprar uma nova GPU incrível.
Aqui está uma lista de provedores de LLM na nuvem com LLMs que eles hospedam.

Tenho uma teoria para testar – se utilizar todos os núcleos de um processador Intel aumentaria a velocidade dos LLMs? Estou incomodado com o fato de que o novo modelo gemma3 27 bit (gemma3:27b, 17GB no ollama) não está cabendo na VRAM de 16GB da minha GPU, e está sendo executado parcialmente no CPU.

No meio do caos do mundo moderno aqui estou comparando especificações técnicas de diferentes cartas adequadas para tarefas de IA
(Deep Learning,
Detecção de Objetos
e LLMs).
Elas são todas incrivelmente caras, no entanto.

Quando o servidor Ollama recebe duas solicitações ao mesmo tempo, seu comportamento depende da sua configuração e dos recursos do sistema disponíveis.

Vibe coding é uma abordagem de programação impulsionada por IA, onde os desenvolvedores descrevem a funcionalidade desejada em linguagem natural, permitindo que ferramentas de IA gerem código automaticamente.

Usei bastante o MMDetection (mmengine, mdet, mmcv), E agora parece que está fora do jogo. É uma pena. Gostei do seu zoo de modelos.

Primeira geração de modelos de raciocínio da DeepSeek com desempenho comparável ao de OpenAI-o1, incluindo seis modelos densos destilados a partir do DeepSeek-R1 baseados em Llama e Qwen.