Ollama и vLLM: когда стоит мигрировать локальный LLM-сервер

Ollama и vLLM: когда стоит мигрировать локальный LLM-сервер

Когда переходить с Ollama на vLLM

Ollama — один из самых простых способов запуска локальной языковой модели, но удобство может скрывать момент, когда локальный эксперимент превращается в общий сервис инференса, требующий лучшего планирования и наблюдаемости.

Синхронизация спецификаций, тестов и кода в разработке ИИ

Синхронизация спецификаций, тестов и кода в разработке ИИ

Не позволяйте AI-агентам отклоняться от спецификаций, тестов и кода.

Агенты ИИ для написания кода быстро выпускают функции, но спецификации, тесты и код незаметно расходятся. Этот гид описывает модель прослеживаемости, маппинг спецификаций на тесты и код, а также проверки CI, которые выявляют расхождения перед слиянием.

Очереди мертвых писем: обработка «отравленных» сообщений в распределенных системах

Очереди мертвых писем: обработка «отравленных» сообщений в распределенных системах

Предотвращение блокировки очередей из-за отравляющих сообщений

Очередь мёртвых писем (Dead-Letter Queue, DLQ) — это страховочная сеть, которая перехватывает сообщения, не поддающиеся обработке потребителями, чтобы одно неисправное сообщение не блокировало очередь и не приводило к тихой потере всех последующих сообщений.

Обслуживание LLM Wiki: дрейф, противоречия и рецензирование

Обслуживание LLM Wiki: дрейф, противоречия и рецензирование

Обеспечьте достоверность скомпилированных знаний

Неудача в использовании LLM Wiki наступает тогда, когда старые факты остаются правдоподобными, противоречия становятся гладкими, а сгенерированные резюме отдаляются от своих источников.

Syncthing для синхронизации файлов в системах самостоятельного хостинга знаний

Syncthing для синхронизации файлов в системах самостоятельного хостинга знаний

Частная синхронизация для локальных знаний.

Syncthing синхронизирует файлы между устройствами, которыми вы управляете, что делает его одним из самых практичных инструментов для создания собственной инфраструктуры знаний, позволяющей избежать привязки к облачным сервисам.

Паттерн Circuit Breaker в Go: предотвращение каскадных сбоев

Паттерн Circuit Breaker в Go: предотвращение каскадных сбоев

Предотвращайте каскадные сбои в микросервисах на Go.

Тайлбрейкер (circuit breaker) предотвращает «бомбардировку» ваших Go-сервисов отказывающей зависимостью, защищая от каскадных сбоев, которые истощают горутины, сокет-соединения и память, пока вся система не рухнет.

Podman Quadlet и Docker Compose для Linux-сервисов

Podman Quadlet и Docker Compose для Linux-сервисов

Выберите правильный контейнерный рабочий процесс.

Docker Compose и Podman Quadlet решают пересекающиеся задачи, но исходят из разных принципов проектирования, и выбор между ними зависит от того, думаете ли вы в терминах стеков приложений или системных сервисов Linux.

GPU для ИИ в 2026 году: сравнение NVIDIA, AMD и Intel

GPU для ИИ в 2026 году: сравнение NVIDIA, AMD и Intel

Сравнение AI-GPU от трёх производителей

Ландшафт аппаратных решений для ИИ значительно изменился в 2026 году: NVIDIA, AMD и Intel соревнуются за разработчиков, которым требуются GPU, способные запускать локальные большие языковые модели (LLM) и выполнять задачи инференса.

Агент Hermes: настройка безголового сервера и удалённого рабочего стола

Агент Hermes: настройка безголового сервера и удалённого рабочего стола

Сервер Headless Hermes с доступом по удаленному рабочему столу

Запуск агента Hermes на сервере без графического интерфейса (headless) при подключении с настольного клиента на другом компьютере требует наличия двух процессов на сервере и одного клиентского соединения.

Workflow спецификации-управляемой разработки: от требований к коду

Workflow спецификации-управляемой разработки: от требований к коду

Пять фаз: от намерения к верифицированному коду.

Разработка на основе спецификаций (Spec-Driven Development, SDD) работает тогда, когда спецификация является рабочим процессом, а не документом, который архивируют после запуска проекта. Цель — не создать большой документ требований к продукту.

GitHub Spec Kit против Kiro и SDD-процессов Claude Code

GitHub Spec Kit против Kiro и SDD-процессов Claude Code

Глубина обработки против переносимости, а не «лучший инструмент».

Разработчики, сравнивающие решения на базе Спецификации-Ориентированной разработки (SDD) в 2026 году, как правило, не спрашивают, какая модель самая умная. Они интересуются, какой рабочий процесс позволит поддерживать ИИ-агента в нужном направлении, не погружая команду в бюрократическую суету.

Безопасность агентов A2A и MCP: идентификация, делегирование и журналы аудита

Безопасность агентов A2A и MCP: идентификация, делегирование и журналы аудита

Безопасность протокола определяет, кто может действовать, а не модель.

Инъекция промптов привлекает основное внимание в области безопасности систем на базе больших языковых моделей (LLM), и это заслужено, но это не вся проблема, когда агенты начинают вызывать инструменты и делегировать работу другим агентам.

A2A-стриминг и асинхронные задачи для длительных агентных рабочих процессов

A2A-стриминг и асинхронные задачи для длительных агентных рабочих процессов

Долгоживущие A2A-задачи продолжают существовать после завершения чат-сессий.

Большинство демонстраций AI-агентов по-прежнему ведут себя как чат-завершения с дополнительными шагами: вы отправляете промпт, ждете несколько секунд и получаете ответ в одном сообщении.

Запуск Docker Compose как службы Linux с помощью systemd

Запуск Docker Compose как службы Linux с помощью systemd

Запуск Docker Compose при загрузке, управляемый через systemd.

Docker Compose на Linux-сервере должен запускаться при загрузке, корректно останавливаться при выключении и переживать перезагрузки без ручного вмешательства.

Установка Docker на Ubuntu: APT, Snap, Rootless — полное руководство 2026

Установка Docker на Ubuntu: APT, Snap, Rootless — полное руководство 2026

Выберите правильный путь установки Docker в Ubuntu.

Установка Docker на Ubuntu должна быть простой, но на практике несколько вариантов установки Docker конкурируют за одно и то же имя команды, каждый из которых имеет различную упаковку, поведение при обновлении и последствия для безопасности.

Устранение неполадок APT в Ubuntu: исправление сломанных пакетов, блокировок и ошибок GPG

Устранение неполадок APT в Ubuntu: исправление сломанных пакетов, блокировок и ошибок GPG

Исправьте APT в Ubuntu без гаданий.

Неудачи с APT — обычное явление на машинах с Ubuntu, которые используются длительное время. Они обычно возникают после обновления версии, изменения стороннего репозитория, удаления PPA, ручной установки пакета .deb или прерванного процесса установки пакетов.

Подписаться

Получайте новые материалы про системы, инфраструктуру и AI engineering.