> ## Documentation Index
> Fetch the complete documentation index at: https://docs.sambanova.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# モデルチャート

SambaStack では、モデル定義をプラットフォームのインフラから分離して管理します。**モデルチャート** (models chart, `sambastack-models`) は、クラスターで提供するモデル・バンドル・PEF をデプロイする Helm リリースであり、インフラチャートに同梱されるのではなく、それらと並べて個別にインストールされます。

モデルチャートはプラットフォームのインフラチャートとは別のリリースになっているため、プラットフォームに手を加えることなく提供モデルを更新でき、必要に応じて両者を互換性のある異なるバージョンに固定することもできます。

> [!WARNING]
>
> モデルチャートとインフラチャートを異なるバージョンに固定する場合は、両者に互換性があることを確認してください。互換性のあるバージョンの組み合わせは SambaNova が公開しています。

## チャートの構成

SambaStack のデプロイメントは 3 つの Helm リリースで構成され、次の順序でインストールします。

| 順序 | リリース | 提供する内容 |
| :- | :- | :- |
| 1 | `sambastack-base` | クラスターの前提条件 |
| 2 | `sambastack` | プラットフォーム: オペレーター、ルーティング、ゲートウェイ、UI |
| 3 | `sambastack-models` | モデルカタログ: `Model`、`ModelProfile`、`ModelBundle`、`Pef` の各リソース |

> [!NOTE]
>
> `sambastack-base` → `sambastack` → `sambastack-models` の順でインストールすることを推奨します。

具体的なコマンドは、[クイックスタート - オンプレミス](/docs/ja/v2.0.2/sambastack/getting-started/on-prem.md) をご参照ください。ホステッドデプロイメントでは、sambastack-installer が同じ順序で 3 つのリリースすべてを自動的にデプロイします。詳細は [クイックスタート - ホステッド](/docs/ja/v2.0.2/sambastack/getting-started/hosted.md) をご参照ください。

## values の指定場所

モデルチャートは、`sambastack.yaml` とは別に独自の values を受け取ります。

| デプロイメントタイプ | 場所 |
| :- | :- |
| **オンプレミス** | `helm upgrade --install sambastack-models` に渡す values ファイル。キーはトップレベルに記述します |
| **ホステッド** | インストーラー ConfigMap の `models.yaml` セクション。インストーラーがその内容をそのままリリースに渡します |

## バンドルの選択とデプロイ

チャートが何を提供するかは 2 つのキーで制御します。それぞれの役割は異なります。

* **`modelBundleSpecs`** は、SambaStack に付属する `ModelBundle` リソースのうち、どれをレンダリングするかを選択します。省略するか空のままにすると、すべてがレンダリングされます。バンドルをレンダリングするとデプロイ可能な状態になりますが、デプロイそのものは行われません。
* **`modelDeploymentSpecs`** は、レプリカグループ構成を指定してバンドルをデプロイします。

```yaml theme={}
modelBundleSpecs:
  - name: cd-dyt-gpt-oss-120b-8-32-64-128k
modelDeploymentSpecs:
  - name: cd-dyt-gpt-oss-120b-8-32-64-128k
    groups:
      - name: default
        minReplicas: 1
        qosList: [web, free]
```

> [!NOTE]
>
> `modelDeploymentSpecs[].name` は `ModelDeployment` の名前とその `spec.bundle` の両方に使用されるため、`ModelBundle` の名前と一致している必要があります。名前が重複すると Helm のレンダリングが失敗します。

SambaNova が提供するバンドルについては、[対応モデルとバンドル](/docs/ja/v2.0.2/sambastack/service-administration/model-deployment/supported-models-and-bundles.md) をご参照ください。`qosList` に指定する QoS タグについては、[サービスティア](/docs/ja/v2.0.2/sambastack/service-administration/platform-admin/usergroup-management.md#サービスティア) をご参照ください。

## 設定リファレンス

以下はモデルチャート自身の values です。ホステッドではインストーラー ConfigMap の `models.yaml` セクションに、オンプレミスではリリースに渡す values ファイルのトップレベルに記述します。

| パラメータ | 型 | 説明 |
| :- | :- | :- |
| `modelBundleSpecs[]` | list | SambaStack に付属する `ModelBundle` リソースのうち、どれをレンダリングするかを選択します。省略するか空のままにすると、すべてがレンダリングされます。`ModelBundle` をレンダリングしてもデプロイは行われません。 |
| `modelDeploymentSpecs[]` | list | レプリカグループ構成を指定してバンドルをデプロイします。 |
| `modelDeploymentSpecs[].name` | string | デプロイするバンドル名。`ModelDeployment` の名前とその `spec.bundle` の両方に使用されるため、`ModelBundle` の名前と一致している必要があります。名前が重複すると Helm のレンダリングが失敗します。 |
| `modelDeploymentSpecs[].groups[].name` | string | ルーティング/キャパシティグループ名 |
| `modelDeploymentSpecs[].groups[].minReplicas` | integer | グループの最小エンジン数 |
| `modelDeploymentSpecs[].groups[].qosList[]` | list | QoS タグ (例: `web`、`free`、`pro`) |
| `global.substitutions` | object | レンダリングされたモデルリソースに適用される文字列置換。NFS デプロイメントまたはエアギャップ環境のデプロイメントでのみ必要です。 |

QoS タグの詳細は、[サービスティア](/docs/ja/v2.0.2/sambastack/service-administration/platform-admin/usergroup-management.md#サービスティア) をご参照ください。

## アーティファクトの場所

モデルチャートは、レンダリングするリソースに文字列置換を適用します。NFS デプロイメントおよびエアギャップ環境のデプロイメントでは、モデルチャートの values に `global.substitutions` を設定します。

```yaml theme={}
global:
  substitutions:
    gs://<SAMBASTACK_ARTIFACTS_BUCKET>: nfs:///nfsdata
```

## 参考情報

> **[SambaStack.yaml リファレンス](/docs/ja/v2.0.2/sambastack/resources/sambastack-yaml.md)**
>
> すべての設定キーと、各キーが属するチャート

> **[バンドル設定の移行](/docs/ja/v2.0.2/sambastack/service-administration/model-deployment/sambastack-v2-bundle-migration.md)**
>
> このチャートがデプロイするバンドルの背後にあるリソースモデルと、その移行方法

> **[モデルとバンドルのデプロイ](/docs/ja/v2.0.2/sambastack/service-administration/model-deployment/deploying-model-bundles.md)**
>
> カスタムリソースを直接作成する方法

> **[カスタムチェックポイントのデプロイ](/docs/ja/v2.0.2/sambastack/service-administration/model-deployment/deploy-custom-checkpoints.md)**
>
> Model リソースのリファレンスと、独自チェックポイントの提供方法