LLM

OpenHands は、AI 駆動のソフトウェア開発エージェントのためのオープンソースでモデル非依存のプラットフォームです。 単なる自動補完ツールではなく、エージェントがコーディングパートナーのように振る舞うことを可能にします。

LocalAI は、ご自身のハードウェア（ノート PC、ワークステーション、オンプレミスサーバー）上で AI ワークロードを実行できるように設計された、自己完結型でローカルファーストの推論サーバーです。これは、OpenAI API と互換性のある「差し替え可能な」APIとして動作します。

ローカル推論には、llama.cpp に戻って利用する機会が多いです。Ollama 他が抽象化して隠している部分を自分で制御できるだけでなく、すぐに動作するからです。GGUFモデルを llama-cli で対話的に実行したり、llama-server で OpenAI 互換の HTTP API を公開したりするのが簡単です。

人工知能（AI）は、ソフトウェアの作成、レビュー、デプロイ、保守の方法を再定義しています。AI コーディングアシスタントから GitOps 自動化、DevOps ワークフローに至るまで、開発者は現在、ソフトウェアライフサイクル全体にわたって AI 駆動のツールに依存しています。

このページは、本サイト内の AI 開発者ツールに関する中央ハブです。チュートリアル、比較、チートシート、そして現代的な AI 支援開発ワークフローへの深い洞察へと接続します。

OpenCode は、ターミナル（TUI + CLI）で実行できるオープンソースの AI コーディングエージェントです。オプションとしてデスクトップおよび IDE 用のインターフェースも提供されます。こちらが OpenCode クイックスタート です：インストール、動作確認、モデル/プロバイダーの接続、および実際のワークフロー（CLI + API）の実行について解説します。

LLM の推論は「ただの API」のように見えますが、レイテンシが急増し、キューが backlog して、GPU のメモリ使用率が 95% に達しても明確な説明ができない状況に直面した際に、その真の姿が明らかになります。

OpenClaw は、Ollama などのローカル LLM ランタイム、または Claude Sonnet などのクラウドベースモデルと連携して動作するように設計された、セルフホスト型の AI アシスタントです。

ほとんどのローカルAI環境の構築は、同じところから始まります。モデル、ランタイム、そしてチャットインターフェース。

Temporal は、開発者がGoなどの馴染みのあるプログラミング言語を使って、耐障害性があり、拡張性があり、信頼性の高いワークフロー アプリケーションを構築できるオープンソースで、企業向けのワークフロー エンジンです。Go など。

LLMシステムは、従来のAPIモニタリングでは表面化できない方法で失敗します。キューが静かに満たされ、GPUメモリがCPUが忙しくなる前に飽和し、レイテンシがアプリケーション層ではなくバッチング層で爆発します。本ガイドでは、LLM推論およびLLMアプリケーション向けのエンドツーエンドの観測性戦略について説明します。測定すべき項目、Prometheus、OpenTelemetry、Grafanaを使ってどのようにインストゥルメント化するか、そしてテレメトリーパイプラインをスケールしてデプロイする方法をカバーします。

Production-focused guide to building RAG systems: chunking, vector stores, hybrid retrieval, reranking, evaluation, and when to choose RAG over fine-tuning.

可観測性 は、信頼性の高い本番システムの基盤です。

メトリクス、ダッシュボード、アラート機能なしでは、Kubernetes クラスタは徐々に劣化し、AI ワークロードは静かに失敗し、レイテンシの退化はユーザーが不満を訴えるまで気づかれません。

A performance engineering hub for running LLMs efficiently: runtime behavior, bottlenecks, benchmarks, and the real constraints that shape throughput and latency.

Strategic guide to hosting large language models locally with Ollama, llama.cpp, vLLM, or in the cloud. Compare tools, performance trade-offs, and cost considerations.

LLM（大規模言語モデル）のセルフホスティングは、データ、モデル、推論をあなたの管理下に保つものであり、チーム、企業、国家にとって AI主権 を実現するための実用的な手段です。

大規模言語モデルをローカルで実行すると、プライバシーの確保、オフラインでの使用が可能になり、APIコストはゼロになります。このベンチマークでは、RTX 4080上で動作する14のポピュラーなLLMs on Ollamaから期待できる性能が明らかになります。