> ## Documentation Index
> Fetch the complete documentation index at: https://docs.sambanova.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# 概要

SambaStack は、デプロイメントの観測と運用を支援するために、主に 2 種類のテレメトリ (telemetry) を出力します。

* **メトリクス (Prometheus)** – トラフィック、レイテンシ、キューイング、ワーカー状態など、ルーターレベルのメトリクス。詳細は [メトリクス](/docs/ja/v2.2.3/sambastack/reference-architecture/observability/metrics) をご参照ください。
* **ログ（ロギングイベント / マニフェストイベント）** – モデルランタイムやその他のサービスが出力する、リクエスト単位の詳細な実行イベント。詳細は [ログ](/docs/ja/v2.2.3/sambastack/reference-architecture/observability/logs) をご参照ください。

<Note>
  テレメトリデータは一般に、**メトリクス**（集計やアラートに用いる数値の時系列データ）、**ログ**（デバッグやフォレンジック調査に用いる個別イベント）、**トレース**（レイテンシ分析や根本原因調査に用いるリクエスト経路の記録）の 3 種類で構成されます。
</Note>

## モニタリングスタック

SambaStack は、SambaNova ラック上で稼働する AI 推論ワークロードのあらゆる側面を観測し、トラブルシューティングできるように、これら 2 種類のテレメトリを出力します。これにより、以下の情報の収集・保存・可視化が可能になります。

* システムログとアプリケーションログ（コントロールプレーンおよびデータプレーン）
* 監査イベントとアクセストレース
* 使用状況メトリクス（QPS、レイテンシ、キュー時間、メモリ使用率）
* ユーザーアクティビティ（アクティブユーザー、セッション）
* 正常性と可用性のシグナル（ノード状態、Pod 状態、モデルの正常性）

貴組織に適した監視・可観測性スタックを構築するためのサードパーティ製のツールやサービスは数多く存在します。ここで説明する**リファレンスアーキテクチャ (reference architecture)** は、SambaNova が**推奨**する実装例ですが、採用は完全に**任意**です。SambaNova は、広く使われているオープンソースツールをベースにした、デフォルトのモニタリングスタックの一例を提供しています。

多くのお客様は、すでに成熟した監視ソリューションをお持ちです。SambaStack のモニタリングアーキテクチャはモジュール型のため、次のいずれの方法も選択できます。

* 提供されるスタック全体をそのまま採用する
* 既存のモニタリングプラットフォーム（Splunk、Datadog、Elasticsearch、New Relic など）の同等コンポーネントで個別に置き換える

<Note>
  リファレンスアーキテクチャはサードパーティ製品を使用しています。バージョンやコマンド構文の変更に同期して更新される保証はありません。SambaStack に固有でない問題については、各ベンダーにお問い合わせください。
</Note>

## コンポーネント

SambaStack のリファレンスモニタリングスタックは、主に 4 つのコンポーネントで構成されます。

| コンポーネント | ツール | 説明 |
| :- | :- | :- |
| ログフォワーダー | Fluent Bit | Kubernetes の Pod、ノード、システムサービスからログを収集します。ログを解析・拡充し、OpenSearch に転送します。 |
| ログストレージ | OpenSearch | ログと監査証跡を大規模に保存します。ログデータの検索・フィルタリング・集計機能を提供します。 |
| メトリクス収集 | Prometheus | SambaStack サービス、Kubernetes コンポーネント、Node Exporter からメトリクスをスクレイプします。監視とアラートのための時系列データを保存します。 |
| 可視化 | Grafana | Prometheus と OpenSearch に接続します。メトリクスのダッシュボードとログ探索機能を提供します。 |

## アーキテクチャ

```text theme={}
                         VISUALIZATION
+--------------------------------------------------------------------+
|                            Grafana                                 |
|              (Dashboards, Alerts, Log Exploration)                 |
+--------------------------------------------------------------------+
                    |                           |
                    v                           v
+-------------------------------+  +-----------------------------+
|          Prometheus           |  |         OpenSearch          |
|       (Metrics Storage)       |  |        (Log Storage)        |
+-------------------------------+  +-----------------------------+
                    ^                           ^
                    |                           |
+-------------------------------+  +-----------------------------+
|        Node Exporter          |  |         Fluent Bit          |
|        (Host Metrics)         |  |      (Log Forwarding)       |
+-------------------------------+  +-----------------------------+
                    ^                           ^
                    |                           |
+--------------------------------------------------------------------+
|                          SAMBASTACK                                |
+--------------------------------------------------------------------+
|  Inference Router  |  Model Deployments  |  Kubernetes Pods/Nodes |
+--------------------------------------------------------------------+
```

## 設計原則

* **モジュール型の連携** – 各コンポーネントは、明確に定義されたインターフェイス（Fluent Bit の出力、Prometheus の remote\_write、Grafana のデータソース）を公開しています。どのコンポーネントも同等品に置き換え可能です。
* **Kubernetes ネイティブ** – すべてのコンポーネントは、SambaStack ワークロードがデプロイされている Kubernetes クラスター上で動作し、クラスターと連携します。
* **既存スタックの持ち込み** – 既存のログプラットフォーム、メトリクスシステム、可視化レイヤーと連携できます。
* **セキュリティ・コンプライアンス対応** – ロギング、メトリクス、監査データは、既存の SIEM やコンプライアンスツールと連携できます。

## コンポーネントの置き換え

各コンポーネントは、既存のモニタリングプラットフォームの同等品に置き換えることができます。

| コンポーネント | 置き換え候補 | 要件 |
| :- | :- | :- |
| OpenSearch | Elasticsearch、Splunk、Loki、Datadog Logs | HTTP、gRPC、または Kafka 経由でログを受信できること |
| Fluent Bit | Fluentd、Vector、Logstash、Datadog Agent | Kubernetes のログ収集に対応していること |
| Prometheus | マネージド Prometheus、Datadog、New Relic | `/metrics` エンドポイントのスクレイプまたは `remote_write` の受信に対応していること |
| Grafana | Datadog ダッシュボード、Kibana、独自ツール | メトリクスとログの両方のソースと連携できること |

## 前提条件

モニタリングスタックをデプロイする前に、以下の環境を準備してください。

| 要件 | 説明 |
| :- | :- |
| Kubernetes クラスター | SambaStack がインストール済みの稼働中クラスター |
| kubectl | 対象の Kubernetes クラスターへのアクセスが設定済みであること |
| Helm（最新バージョン） | 各種 Helm チャートのデプロイに使用 |
| jq | 動作確認時の JSON 出力の解析に使用 |
| ストレージクラス | 永続ボリューム用の有効なストレージクラス（OpenSearch および Prometheus 用） |

## ディレクトリ構成

作業を始める前に、以下のディレクトリ構成を作成してください。

```bash theme={}
mkdir -p ~/.sambastack-observability/{opensearch,fluentbit,monitoring}
```

すべてのデプロイが完了すると、ディレクトリは次のような内容になります。

```text theme={}
~/.sambastack-observability/
|-- monitoring-namespace.yaml
|-- opensearch/
|   |-- opensearch-initial-admin-password-secret.yaml
|   +-- opensearch-values.yaml
|-- fluentbit/
|   |-- append_tags.lua
|   |-- fluentbit-conf.conf
|   +-- fluentbit-values.yml
+-- monitoring/
    |-- grafana-initial-admin-credentials-secret.yaml
    |-- inference-router-sm.yaml
    +-- prometheus-grafana-values.yaml
```

## デプロイ順序

以下の順序でコンポーネントをデプロイします。

| ステップ | コンポーネント | ガイド |
| :- | :- | :- |
| 1 | OpenSearch | [ログストレージ](/docs/ja/v2.2.3/sambastack/reference-architecture/observability/log-storage) |
| 2 | Fluent Bit | [ログ転送](/docs/ja/v2.2.3/sambastack/reference-architecture/observability/log-forwarder) |
| 3 | Prometheus と Grafana | [監視](/docs/ja/v2.2.3/sambastack/reference-architecture/observability/monitoring-prom) |

## リソース要件

| コンポーネント | CPU | メモリ | ストレージ |
| :- | :- | :- | :- |
| OpenSearch | 2〜4 コア | 4〜8 GB | 50〜100 GB |
| Fluent Bit（ノードごと） | 100m | 128Mi | – |
| Prometheus | 500m | 2Gi | 30Gi |
| Prometheus Operator | 200m | 256Mi | - |
| Grafana | 250m | 512Mi | – |
| Node Exporter（ノードごと） | 100m | 128Mi | – |