LLM

LocalAI QuickStart: ローカルで OpenAI 互換 LLM を実行する

LocalAI QuickStart: ローカルで OpenAI 互換 LLM を実行する

数分で LocalAI を使用して、OpenAI 互換 API をセルフホストできます。

LocalAI は、ご自身のハードウェア(ノート PC、ワークステーション、オンプレミスサーバー)上で AI ワークロードを実行できるように設計された、自己完結型でローカルファーストの推論サーバーです。これは、OpenAI API と互換性のある「差し替え可能な」APIとして動作します。

llama.cpp の CLI とサーバーを使用したクイックスタート

llama.cpp の CLI とサーバーを使用したクイックスタート

「OpenCode のインストール、設定、および使用方法」

llama.cpp(https://www.glukhov.org/ja/llm-hosting/llama-cpp/ “llama.cpp”)はローカルでの推論に最適です。Ollamaや他のツールが抽象化しているコントロールを提供し、簡単に動作します。llama-cliを使用してGGUFモデルをインタラクティブに実行したり、llama-serverを使用してOpenAIと互換性のあるHTTP APIを公開したりするのが簡単です。

AI 開発ツール:AI 駆動開発の完全ガイド

AI 開発ツール:AI 駆動開発の完全ガイド

AI 開発者ツール:AI 駆動型開発の完全ガイド

人工知能は、ソフトウェアの作成、レビュー、デプロイ、保守の方法を根本から変えつつあります。AI コーディングアシスタントから GitOps 自動化、DevOps ワークフローに至るまで、開発者たちは今やソフトウェアライフサイクルのあらゆる段階で AI 駆動型ツールに依存しています。

OpenCode クイックスタート:Terminal AI コーディングエージェントのインストール、設定、および利用

OpenCode クイックスタート:Terminal AI コーディングエージェントのインストール、設定、および利用

OpenCode のインストール、設定、および使用方法

OpenCode は、ターミナル(TUI + CLI)で実行可能なオープンソースの AI コーディングエージェントであり、オプションとしてデスクトップや IDE 用のインターフェースも提供します。これが OpenCode クイックスタート です:インストール、検証、モデル/プロバイダーの接続、そして実際のワークフロー(CLI + API)の実行について解説します。

GoでTemporalを使用したワークフロー応用の実装: 完全ガイド

GoでTemporalを使用したワークフロー応用の実装: 完全ガイド

GoでTemporal SDKを使用してワークフローを構築する

Temporal は、開発者がGoなどの馴染みのあるプログラミング言語を使って、耐障害性があり、拡張性があり、信頼性の高いワークフロー アプリケーションを構築できるオープンソースで、企業向けのワークフロー エンジンです。Go など。

LLMシステムの観測性:メトリクス、トレース、ログ、および本番環境でのテスト

LLMシステムの観測性:メトリクス、トレース、ログ、および本番環境でのテスト

LLM推論およびLLMアプリケーション向けのエンドトゥーエンドの観測性戦略

LLMシステムは、従来のAPIモニタリングでは表面化できない方法で失敗します。キューが静かに満たされ、GPUメモリがCPUが忙しくなる前に飽和し、レイテンシがアプリケーション層ではなくバッチング層で爆発します。本ガイドでは、LLM推論およびLLMアプリケーション向けのエンドツーエンドの観測性戦略について説明します。測定すべき項目、Prometheus、OpenTelemetry、Grafanaを使ってどのようにインストゥルメント化するか、そしてテレメトリーパイプラインをスケールしてデプロイする方法をカバーします。

RAGにおけるチャンキング戦略の比較:代替案、トレードオフ、および例

RAGにおけるチャンキング戦略の比較:代替案、トレードオフ、および例

RAGにおけるチャンキング戦略の比較

Chunking は、Retrieval ‑ Augmented Generation (RAG) において 最も過小評価されている ハイパラメータです。
静かに、LLM が「何を見ているか」を決定し、インジェストのコストをどのくらい高めるか、そしてLLMのコンテキストウィンドウがどのくらい使われるかを決めています。