> ## Documentation Index > Fetch the complete documentation index at: https://docs.sambanova.ai/docs/llms.txt > Use this file to discover all available pages before exploring further. # SambaStack リリースノート SambaStack のリリースノートです。新機能、機能強化、修正内容を掲載しています。モデルライフサイクルのステージ変更も本ページで告知します。各ステージの意味と、モデルが Retired (提供終了) になる前に受け取る通知については、[SambaStack モデルライフサイクル](/docs/ja/v2.2.3/sambastack/service-administration/model-deployment/model-lifecycle) をご参照ください。 **SambaWiz でバンドルを構築していますか?** 各リリースで導入されるモデルや機能を利用できるよう、リリースごとに必ず最新の [SambaWiz](https://github.com/sambanova/sambastack-tools/tree/main/sambawiz) バージョンを取得してください。 *** ## SambaStack v2.2.3 リリース **リリース日:** 2026年10月1日 **アップグレードの前に、アップグレードに関する注意事項をご確認ください。** V1 および V2 のバンドルリソースのサポートは、2026年9月30日をもって終了しました。下記の **提供終了と削除** をご参照ください。 本リリースでは、以下の主要なアップデートを導入します。 * **`gemma-4-31B-it` のマルチトークン予測**：ステップごとに複数のトークンを生成して出力を高速化する、新しい Preview (プレビュー) バンドル * **`MiniMax-M3` の Prompt Caching**：テキスト入力の Prompt Caching に対応し、最大 1M コンテキストをサポートする新しい Preview バンドル * **文字起こし形式の追加**：`/v1/audio/transcriptions` が `verbose_json`、`srt`、`vtt` と、セグメント単位のタイムスタンプに対応 デプロイの詳細、バンドル構成、コンテキスト長については、[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。以下のモデル、API、推論に関する変更は、SambaCloud にも適用されます。 ### アップグレードに関する注意事項 以下の項目を確認したうえで、[SambaStack のアップグレード](/docs/ja/sambastack/service-administration/platform-admin/upgrade-sambastack) の手順に従ってアップグレードしてください。事前に、お客様が自身でインストールしたアプリケーションをバックアップしてください。SambaNova は、お客様がインストールしたアプリケーションのデータをバックアップ・復元できません。 **アップグレードの前に、values ファイルを編集してください。** すべてのモデルリソースはモデルチャートに含まれています。以下のキーを削除してください。 | キー | 対応 | | :- | :- | | `bundleSpecs`、`bundleDeploymentSpecs` | 削除してください。V1 および V2 のバンドルテンプレートはレンダリングされなくなりました | | `global.modelComponents.enabled` | 削除してください。モデルチャートは常にモデルリソースをレンダリングします | **カスタムモデルプロファイルの `spec.defaultBatchingConfig` を置き換えてください。** `spec.defaultBatchingConfig` を使用するカスタムの `ModelProfile` がある場合は、`spec.batchingConfigs` に置き換えてください。[ModelProfile](/docs/ja/sambastack/service-administration/model-deployment/custom-resources/model-profile) をご参照ください。 **サービスティアとコンソール設定は検証されます。** サービスティアの values は、チャートのレンダリング時に検査されます。必須の各モデルと親ティアが存在する必要があり、不明なキーは拒否されるため、2.1.x で機能していたファイルが 2.2.3 では失敗することがあります。コンソールの設定も、インストールまたはアップグレードの前に検査され、設定が無効な場合は処理が停止します。 *** **API の動作変更** | 操作 | 従来の動作 | 新しい動作 | | :- | :- | :- | | ゼロ以外の `frequency_penalty` または `presence_penalty` を送信 | 受け付けられますが、無視されます | HTTP 400 を返します。`0` と `null` は受け付けられます。これらのパラメータを常に送信するクライアントを更新してください | | モデルの上限を超える長さの入力を `/v1/embeddings` に送信 | HTTP 500 を返します | HTTP 400 `context_length_exceeded` を返し、どの入力が長すぎるかを示します | | `max_tokens` と `max_completion_tokens` に異なる値を設定 | HTTP 500 を返します | HTTP 400 を返します | | Retired のモデルにリクエストを送信 | `/v1/chat/completions` では、プレーンテキストのボディ付きで HTTP 410 を返します | `model_deprecated` JSON エラーと `request_id` 付きの HTTP 410 を返します。[SambaStack モデルライフサイクル](/docs/ja/sambastack/service-administration/model-deployment/model-lifecycle) をご参照ください | | デプロイメントが適用できない `logit_bias` を送信 | HTTP 500 を返すか、一部のモデルでは無視されます | HTTP 400 を返します | | コンテキスト上限を超えるマルチモーダルプロンプトを送信 | HTTP 500 を返します | HTTP 400 `context_length_exceeded` を返します | | 60 秒を超える動画を `gemma-4-31B-it` に送信 | 受け付けられたうえ、固定の 32 フレームでサンプリングされます | コード `video_duration_exceeded` 付きの HTTP 400 を返します。それより短い動画は、毎秒 2 フレームでサンプリングされます | *** **コンポーネントバージョン** | コンポーネント | v2.1.2 | v2.2.3 | | :- | :- | :- | | Helm チャート | 2.1.2 | 2.2.3 | | Runtime | 1.26.3-2 | 1.26.3-2 | | Kubernetes (RKE2) | 1.35 | 1.35 | **本リリースでは Kubernetes のアップグレードは不要です。** RKE2 は 1.35 のままです。 *** **CVE の修正** 本リリースには、サードパーティのオープンソース依存関係およびベースイメージの更新版が含まれており、これらのコンポーネントに影響する多数の公開済みセキュリティアドバイザリ (CVE) を解決します。SambaNova 独自のコードに脆弱性は確認されていません。 *** ### 新機能と機能強化 **モデルの更新** SambaStack v2.2.3 では、以下のモデルとバンドルのサポートが更新されました。 * **`gemma-4-31b-mtp-cd-8-32-64-128k` – Preview**：マルチトークン予測 (multi-token prediction) と制約付きデコーディングを有効にして、8K から 128K のコンテキスト、テキスト・画像・動画の入力で `gemma-4-31B-it` をサービングします。マルチトークン予測は各ステップで複数のトークンを生成するため、出力が高速になります。投機的デコーディングとは異なり、独立したドラフトモデルを必要としません。 * **`minimax-m3-acb-prefix-caching` – Preview**：Prompt Caching、連続バッチング、制約付きデコーディングを有効にして、最大 1M コンテキストで `MiniMax-M3` をサービングします。入力はテキストのみを受け付けます。画像または動画の入力には、他の `MiniMax-M3` バンドルを使用してください。 [対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。 *** **文字起こし形式の追加** `/v1/audio/transcriptions` が、`verbose_json`、`srt`、`vtt` のレスポンス形式と、`segment` を指定した `timestamp_granularities` をサポートするようになりました。`word` タイムスタンプのリクエストは拒否されます。文字起こしおよび翻訳のレスポンスには、使用量データが含まれます。 *** **API キーの有効期限とローテーション** API キーに有効期限を設定できるようになり、名前や使用履歴を失うことなくキーをローテーションできるようになりました。有効期限は、どのデプロイメントでも API 経由で設定できます。デフォルトでは、キーに有効期限はありません。 コンソールに有効期限とローテーションのコントロールを表示するには、以下の両方を設定してください。 | 設定 | 値 | | :- | :- | | `cloud-ui.config.apiKeys.defaultExpiryDays` | 正の数 | | `apiKeyExpiry` フラグ | 有効 | *** ### API の改善と修正 **非ストリーミングリクエストのキャンセル** 非ストリーミングリクエストも、ストリーミングリクエストと同様に、クライアントの切断時にキャンセルされるようになりました。連続バッチングのバンドルでは、生成は即時に停止します。生成が継続するケースについては、下記の **既知の問題** をご参照ください。 *** **制約付きデコーディング下でのネイティブなツール呼び出し形式** `tool_choice: required` または特定の関数を指定した場合、制約付きデコーディングが、素の JSON ではなく各モデルのネイティブなツール呼び出し形式を強制するようになりました。また、Reasoning モデルは、ツール呼び出しの前に reasoning を行えます。 *** **Vision-Language モデルでの `seed`** `gemma-4-31B-it` などの Vision-Language モデルで、`seed` を設定すると再現可能な出力が得られるようになりました。 *** ### バグ修正 * **Gemma の `logprobs`**：`gemma-4-31B-it` および Gemma 3 の各バンドルへの `logprobs: true` リクエストが、内部エラーを返さなくなりました。 * **コンテキスト上限付近の `MiniMax-M3`**：コンテキスト上限付近のリクエストが、チャットテンプレートの追加トークンが原因でコンテキスト上限を超えることがなくなりました。 * **途中で打ち切られた reasoning**：`MiniMax-M3` などの Reasoning モデルで、非ストリーミングレスポンスが reasoning の途中で `max_tokens` により打ち切られた場合、そのテキストが `content` ではなく `reasoning` に返されるようになりました。 * **構造化出力**：`response_format` リクエストで、未完了の reasoning から JSON が取り出されることがなくなり、JSON 文字列内の波括弧や reasoning マーカーが正しく処理されるようになりました。 * **大きな `response_format` スキーマ**：大きなスキーマが原因で、リクエストがコンテキスト上限を超えることがなくなりました。 * **コンパイルできないツールスキーマ**：文法にコンパイルできないツールスキーマが、内部エラーを返さなくなりました。リクエストは、より弱い文法強制または文法強制なしで処理されるため、そのツール呼び出しはスキーマに一致しない場合があります。 * **バッチング**：`logit_bias`、`seed`、`ignore_eos`、`logprobs`、`top_logprobs`、`tools`、`tool_choice`、`response_format`、`parallel_tool_calls`、または `stop` や `max_tokens` のエイリアスを設定したリクエストが、他のリクエストと同じバッチを共有できるようになりました。 * **API キーページ**：コンソールの API キーページ (`/apis`) が正しく読み込まれるようになりました。 *** ### 提供終了と削除 **従来のバンドルリソースのサポートは、2026年9月30日をもって終了しました。** チャートは `BundleTemplate`、`Bundle`、`BundleDeployment` をレンダリングしなくなりました。`Model`、`ModelProfile`、`ModelDeployment`、`ModelBundle` に移行してください。フィールドの対応関係と手順については、[バンドル設定の移行](/docs/ja/sambastack/service-administration/model-deployment/deploying-models-and-bundles/sambastack-v2-bundle-migration) をご参照ください。 * **エアギャップ用ダウンロードスクリプトの名称変更**：`download_bundle_artifacts_v2.sh` は `download_bundle_artifacts.sh` に名称変更され、`ModelBundle` マニフェストのみを処理するようになりました。旧名を呼び出しているランブックやスクリプトを更新してください。エアギャップ用の values プロファイルは、`modelBundleSpecs` と `modelDeploymentSpecs` を使用します。 *** ### 既知の問題 * **`MiniMax-M3` の Prompt Caching バンドルの制限**：`minimax-m3-acb-prefix-caching` はテキストのみを受け付け、`repetition_penalty` を指定したリクエストは内部エラーを返します。画像または動画の入力には、他の `MiniMax-M3` バンドルを使用してください。Prompt Caching バンドルでは、`repetition_penalty` を指定しないでください。 * **`MiniMax-M3` が画像・動画を含むリクエストで 2 つ目の system メッセージを破棄する**：画像または動画を含むリクエストが 2 つの `system` メッセージで始まる場合、2 つ目のメッセージは無視されます。1 つにまとめてください。 * **`MiniMax-M3` が一部の画像 URL に対して HTTP 500 を返す**：`http://`、`https://`、または小文字の `data:` で始まらない `image_url` は、HTTP 400 ではなく HTTP 500 を返します。画像は base64 の `data:` URL として、`data:` を小文字にして送信してください。 * **`MiniMax-M3` がテキストリクエストで `thinking_mode` を無視する**：テキストのみのリクエストでは `chat_template_kwargs.thinking_mode` が効果を持たず、`disabled` を指定しても reasoning が `content` に返されることがあります。 * **`gemma-4-31B-it` が `https` URL から動画を取得できない**：`https` 経由の `video_url` は、HTTP 400 `video_fetch_failed` を返します。動画は base64 の `data:` URL として送信してください。 * **Vision モデルと音声モデルで `/v1/completions` が失敗する**：`MiniMax-M3`、`gemma-4-31B-it` をはじめとする Vision モデルおよび音声モデルは、`/v1/completions` で内部エラーを返します。`/v1/chat/completions` を使用してください。 * **1 つのリクエストの拒否がバッチ全体を失敗させることがある**：バッチの準備中にリクエストが拒否されると、同じバッチ内の他のリクエストにも同じ HTTP 400 が返されることがあります。例: コンテキスト上限を超えた `MiniMax-M3` のリクエストや、`max_tokens` の値が競合している `gemma-4-31B-it` のリクエスト。 * **切断後も実行され続けるリクエストがある**：以下のリクエストは、クライアントが切断してもキャンセルされません。 * 連続バッチングを使用しないバンドルで、バッチ内で最長ではないリクエスト。バッチが完了するまで生成を続けます * Reasoning モデルでの、JSON の `response_format` を指定したストリーミングリクエスト * グローバルモデルルーターが別のクラスターに送信したリクエスト 放棄されたリクエストの消費を抑えるため、出力トークンの上限を設定してください。 * **設定チェックの Job が蓄積する**：インストールまたはアップグレードのたびに、完了済みのコンソール設定チェック用 Job と Pod が残ります。アップグレード後に削除してください。 *** ## SambaStack v2.1.2 リリース **リリース日:** 2026年9月22日 本リリースでは、以下の主要なアップデートを導入します。 * **出力トークンの上限**：新しい `maxNewTokens` および `maxNewTokensHard` 設定。モデル、サービスティア、またはティア内の 1 つのコンテキストグループに適用できます * **放棄された生成のキャンセル**：ストリーミングクライアントが切断すると、その生成が停止するようになりました。キャパシティは、連続バッチングまたはバッチサイズ 1 では即時に返却され、それ以外の場合はバッチの残りの完了時に返却されます * **Vision-Language (視覚言語) モデルでの正確な `completion_tokens`**：レポートされる出力トークン数が、応答テキストの再エンコードではなく、モデルが実際に生成したトークンをカウントするようになりました * **`minimax-m3-512k` バンドル**：コンテキストを 512K に制限して `MiniMax-M3` をサービングします * **推論ログレコードへのクライアントのサンプリングパラメータの記録**：7 つのサンプリングパラメータが、クライアントが送信したままの形で記録されます ### アップグレードに関する注意事項 以下の項目を確認したうえで、[SambaStack のアップグレード](/docs/ja/sambastack/service-administration/platform-admin/upgrade-sambastack) の手順に従ってアップグレードしてください。事前に、お客様が自身でインストールしたアプリケーションをバックアップしてください。SambaNova は、お客様がインストールしたアプリケーションのデータをバックアップ・復元できません。 本ホットフィックスは、デフォルト値を一切変更しません。出力トークンの上限は、設定するまで未設定のままです。 *** **コンポーネントバージョン** | コンポーネント | v2.1.1 | v2.1.2 | | :- | :- | :- | | Helm チャート | 2.1.1 | 2.1.2 | | Runtime | 1.26.3-2 | 1.26.3-2 | | Kubernetes (RKE2) | 1.35 | 1.35 | **本リリースでは Kubernetes のアップグレードは不要です。** 本リリースで必要なのは、Helm チャートのアップグレードのみです。 *** **CVE の修正** 本リリースには、サードパーティのオープンソース依存関係およびベースイメージの更新版が含まれており、これらのコンポーネントに影響する多数の公開済みセキュリティアドバイザリ (CVE) を解決します。SambaNova 独自のコードに脆弱性は確認されていません。 *** ### 新機能と機能強化 **出力トークンの上限** 1 回の生成が生成できる出力トークン数を、2 つの設定で制限できます。 * `maxNewTokens` は、リクエストが `max_tokens` を省略した場合に `max_tokens` を補完します。自身の `max_tokens` を送信したリクエストには影響しません。 * `maxNewTokensHard` は、クライアントが `max_tokens` を送信したかどうかにかかわらず、すべての生成に上限を課します。上限に達した生成はそこで停止し、クライアント指定の上限と同じ finish reason をレポートします。 いずれの設定も、[Model](/docs/ja/sambastack/service-administration/model-deployment/custom-resources/model) リソース、サービスティア、またはティア内の `contextGroups` エントリに設定できます。優先順位は、contextGroup、サービスティア、Model の順です。 レベルの選び方については [出力トークンの上限](/docs/ja/sambastack/service-administration/platform-admin/usergroup-management#出力トークンの上限)、設定キーについては [SambaStack.yaml リファレンス](/docs/ja/sambastack/resources/sambastack-yaml#servicetiers) をご参照ください。 *** **モデルの更新** * **`minimax-m3-512k` – プレビュー**：コンテキストを 512K に制限した `MiniMax-M3` を、Vision 対応でサービングします。512K を超えるコンテキストには `minimax-m3-32-64-128-256-512k-1m` を使用してください。[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。 *** **推論ログレコードへのクライアントのサンプリングパラメータの記録** 推論ログレコードが、クライアントのサンプリングパラメータをレポートするようになりました: `max_tokens`、`temperature`、`top_p`、`stop`、`top_k`、`repetition_penalty`、`ignore_eos`。null は、クライアントが値を送信しなかったことを意味します。`maxNewTokensHard` が設定されていて、クライアントの `max_tokens` がそれを超えていた場合、ログには上限値が記録されます。 記録内容は、2 つの設定で制御します。 | 設定 | 効果 | | :- | :- | | `LOG_REQUEST_PARAMS` | `false` に設定すると、パラメータを一切記録しません | | `LOG_REQUEST_PARAMS_EXCLUDE` | 除外する個別パラメータのリスト。例: `stop` (プロンプト由来のテキストを含みうる唯一のパラメータ) | 除外されたパラメータは、null ではなくレコードから欠落します。 *** ### API の改善と修正 **放棄された生成のキャンセル** ストリーミングクライアントが切断すると、その生成が停止するようになりました。キャパシティが返却されるタイミングは、モデルのサービング方法によって異なります。 | サービング構成 | キャパシティの返却 | | :- | :- | | [連続バッチング](/docs/ja/sambastack/service-administration/model-deployment/deploying-models-and-bundles/deployment-configurations) | 即時 | | 静的バッチング、バッチサイズ 1 | 即時 | | 静的バッチング、バッチサイズ 2 以上 | バッチの残りの完了時 | キャンセルされたリクエストは、停止までに生成されたトークンとともに `stop_reason: cancelled` をレポートし、別のエキスパートには渡されません。キャンセルは `cancelled_in_flight_ttl_seconds` (デフォルト 300) の間保持されるため、ワーカーがすでにピックアップ済みのリクエストもカバーされます。 非ストリーミングリクエストは対象外です。下記の **既知の問題** をご参照ください。 *** **`completion_tokens` がモデルの実際の生成を反映** Vision-Language モデルで、`usage.completion_tokens` が、モデルが生成したトークンをカウントするようになりました。従来は応答テキストを再エンコードしており、カウントが過大になることがありました。 ストップシーケンスにより出力が途中で打ち切られた場合も、切り捨てられたトークン (モデルが実際に生成したもの) がカウントされるようになりました。 *** ### 既知の問題 * **`minimax-m3-512k` でコンテキスト上限付近のリクエストが内部エラーで失敗する**：バックエンドは、トークンカウントエンドポイントのレポートより 49 トークン多くプロンプトトークンをカウントします。そのため、512K 上限まで 49 トークン以内のテキストリクエストは、受け付けられた後に失敗します。上限以上のリクエストは、従来どおり HTTP 400 で拒否されます。プロンプトと `max_tokens` の合計は、524,288 より 50 トークン以上少なく保ってください。 * **`dyt-gpt-oss-120b-8-32-64-128k-scx` で 128K 境界付近のリクエストが内部エラーで失敗する**：ワーカーはゲートウェイより 14 トークン多くカウントするため、131,070 または 131,071 とカウントされたプロンプトは、受け付けられた後、生成前に失敗します。プロンプトは 131,072 より 15 トークン以上少なく保ってください。 * **`max_tokens` と `max_completion_tokens` の競合が内部エラーを返す**：`gemma-4-31B-it` などの Vision-Language モデルで、両方のフィールドを異なる値で送信すると、出力トークンの上限が未設定の場合、バリデーションエラーではなく HTTP 500 が返されます。どちらか一方のフィールドのみを送信してください。`maxNewTokens` または `maxNewTokensHard` を設定することでも回避できます。この場合、モデルに渡る前に 2 つの値が解決されます。 * **`gemma-4-31B-it` で途中で打ち切られた思考ブロックがコンテンツとして返される**：非ストリーミングリクエストで、`max_tokens` により思考ブロックが途中で打ち切られると、思考マーカーと reasoning テキストが、reasoning フィールドなしで `message.content` に返されます。トークンカウントは正しいままです。レスポンスをストリーミングするか、ブロックが完了するよう `max_tokens` を引き上げてください。 * **切断時のキャンセルはストリーミングリクエストのみが対象**：放棄された非ストリーミングリクエストは検出されず、上限まで生成を続けてスロットを保持し、`stop_reason: cancelled` のレコードも残りません。長い生成はストリーミングし、放棄されたリクエストの消費を抑えるために、出力トークンの上限を設定してください。 *** ## SambaStack v2.1.1 リリース **リリース日:** 2026年8月31日 **本リリースは、アップグレードの前に対応が必要です。** まず **アップグレードに関する注意事項** を確認して対応してください。従来のバンドルリソースモデルを引き続き使用している場合は、**提供終了と削除** に記載の移行期限にご注意ください。 本リリースでは、以下の主要なアップデートを導入します。 * **`MiniMax-M3`**：32K から 1M までのコンテキストでテキスト・画像・動画に対応し、Function calling と reasoning をサポートする新モデル * **ワークロードスケジューリングの制御**：新しい `global.*` スケジューリング値により、プラットフォームサービスを推論ノードに配置しないよう構成可能に * **Vision (視覚) モデルでの制約付きデコーディング**：従来は受け付けられながら暗黙のうちに無視されていましたが、生成中に適用されるように変更 * API、エアギャップインストール、信頼性に関する一連の修正 デプロイの詳細、バンドル構成、コンテキスト長については、[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。以下のモデル、API、推論に関する変更は、SambaCloud にも適用されます。 SambaRack Manager は、本リリースで独自の変更を提供します。`snctl` の Go への書き直しと、それに伴うフラグの変更が含まれます。[SambaRack Manager リリースノート](/docs/ja/release-notes/sambarack-manager) をご参照ください。 ### アップグレードに関する注意事項 以下の項目を確認したうえで、[SambaStack のアップグレード](/docs/ja/sambastack/service-administration/platform-admin/upgrade-sambastack) の手順に従ってアップグレードしてください。事前に、お客様が自身でインストールしたアプリケーションをバックアップしてください。SambaNova は、お客様がインストールしたアプリケーションのデータをバックアップ・復元できません。 **API の動作変更** | 変更 | 対応 | | :- | :- | | API のエラーレスポンスが JSON エラーエンベロープを使用するように変更 | HTTP ステータスコードではなくエラーボディを解析しているクライアントを更新してください。 | | `Mistral-Large-3` のチャットテンプレートを更新 | 従来のテンプレートを前提に固定していたプロンプトや評価を再検証してください。 | | 不正な形式の画像入力が HTTP 500 ではなく HTTP 400 を返すように変更 | 再試行可能なサーバーエラーではなく、恒久的なリクエストエラーとして扱ってください。 | *** **コンポーネントバージョン** | コンポーネント | v2.0.2 | v2.1.1 | | :- | :- | :- | | Helm チャート | 2.0.2 | 2.1.1 | | Runtime | 1.26.3-2 | 1.26.3-2 | | Kubernetes (RKE2) | 1.35 | 1.35 | **本リリースでは Kubernetes のアップグレードは不要です。** RKE2 は 1.35 のままのため、v2.0.2 とは異なり、クラスターアップグレードの実施時間枠を計画する必要はありません。 *** **CVE の修正** 本リリースには、サードパーティのオープンソース依存関係およびベースイメージの更新版が含まれており、これらのコンポーネントに影響する多数の公開済みセキュリティアドバイザリ (CVE) を解決します。SambaNova 独自のコードに脆弱性は確認されていません。 *** ### 新機能と機能強化 **モデルの更新** SambaStack v2.1.1 におけるモデルとバンドルのサポート更新は以下のとおりです。 * **`MiniMax-M3` – プレビュー**：テキスト・画像・動画に対応する新モデルです。`minimax-m3-32-64-128-256-512k-1m` バンドルで 32K、64K、128K、256K、512K、1M のコンテキストを利用できるほか、専用の 32K バンドルでも利用できます。Function calling、reasoning 出力、reasoning トークンのレポートをサポートし、Responses API からも利用できます。本リリースでは、このモデルで Prompt Caching はサポートされません。下記の **既知の問題** をご参照ください。 * **`MiniMax-M2.7` – 安定版**：KV キャッシュ統合により安定版 (Stable) に到達しました。これは、このモデルに対して計画されていた最後の改善です。新しい `dyt-minimax-m2p7-32k-pc` バンドルが、Prompt Caching 付きの 32K でモデルをサービングします。 対象とするコンテキスト長の KV シーケンス上限を超えるリクエストは、拒否されるのではなく、動的ティアリング (dynamic tiering) によってより大きなエキスパートで処理されます。このようなリクエストは、`finish_reason: length` とともに HTTP 200 を返します。 *** **ワークロードスケジューリングの制御** プラットフォームサービスを推論 (RDU) ノードに配置しないよう構成できるようになりました。スケジューリングは、チャート内のすべての Deployment、StatefulSet、Job に適用される一連の `global.*` 値で構成します。 * `global.affinity` * `global.nodeSelector` * `global.tolerations` * `global.topologySpreadConstraints` * `global.priorityClassName` * `global.requireDefaultPodAntiAffinity` 従来、ゲートウェイ、推論ルーター、オペレーター、認証、ID 管理、Keycloak、データベース、コンソール、ジョブの各ワークロードにはスケジューリング制約がなく、推論ノードに配置される可能性がありました。そのようなノードが障害を起こしたり飽和状態に陥ったりすると、kubelet が Pod のステータスを報告できず、Pod が terminating のまま残り、クラスターは自動的に復旧しませんでした。 各コンポーネントは、引き続き個々のキーを自身に対してのみオーバーライドできます。`tolerations` と `topologySpreadConstraints` は、コンポーネント自身のリストを置き換えるのではなく、リストに追記されます。 *** **エアギャップおよび BYOC インストール** * **インラインのプロファイル定義が解決されるようになりました**：アーティファクトのダウンロードパスが、名前付きの `ModelProfile` 参照に加えて、インラインの `profileDefinition` ブロックからも PEF を読み取るようになりました。従来は 27 バンドルにわたる 312 件の PEF 参照がスキップされていたため、インストール時に不完全なアーティファクトセットがステージングされ、キャッシュ Pod がクラッシュループに陥り、ワーカーが init 状態のまま残っていました。 * **スタンドアロンのモデルチャートが自動検出されるようになりました**：ダウンロードスクリプトが、アンブレラチャートに加えて、スタンドアロンのモデルチャート (`modelComponents.enabled` が `false` の場合のデフォルト) を認識するようになりました。 * **サードパーティのチャート依存関係がミラーリングされるようになりました**：Redis、OpenEBS、CloudNativePG のサブチャートが、イメージとともにプライベートレジストリにミラーリングされるようになり、従来はサブチャートの依存関係を解決できなかったインストールが可能になりました。 *** ### API の改善と修正 **Vision モデルでの制約付きデコーディングの適用** Vision モデルで、制約付きデコーディングが生成中に適用されるようになりました。従来は、受け付けられながら暗黙のうちに無視されていました。文法はリクエストごとにコンパイルされて渡されていたものの、Vision タスクがマスクを読み込まないため、`tool_choice: required` および `response_format` のリクエストは、エラーも警告もないまま、ベストエフォートの出力解析による制約なしの生成にフォールバックしていました。 これにより、v2.0.2 の既知の問題として報告されていた `gemma-4-31B-it` の強制ツール呼び出しの失敗が解決されます。 *** **エラーレスポンスが JSON エンベロープを使用** **後方互換性のない変更です。** モデルルーターの各エンドポイントが返すエラーが、従来の混在した形式ではなく、一貫した JSON エラーエンベロープを使用するようになりました。エラーボディを解析しているクライアントは更新が必要です。HTTP ステータスコードに依存しているクライアントは影響を受けません。 *** **ツール呼び出しの修正** * **Vision モデルでの `tool_choice: none`**：従来は無視されていた Vision モデルのパスで、正しく適用されるようになりました。 * **`gpt-oss-120b` のストリーミング**：ストリーミングのツール呼び出しで、モデル内部のチャネル区切りタグがそのまま `delta.content` の可視の assistant テキストとして出力されることがなくなり、ツール引数は 2 回ではなく 1 回のみ `tool_calls` のデルタとして配信されるようになりました。 * **`gpt-oss-120b` のコードモードツール呼び出し**：コードモードのツール呼び出しが、HTTP 400 で拒否されるのではなく、解析されて処理されるようになりました。 * **`finish_reason`**：すべてのリクエストが `finish_reason: tool_calls` を報告する原因となっていた、トークンフォールバックの不具合を修正しました。 *** **Reasoning 出力** Reasoning 出力が、`MiniMax-M2`、`gemma-4-31B-it`、`gpt-oss-120b`、および DeepSeek V3 ファミリー (`DeepSeek-V3-0324`、`DeepSeek-V3.1`、`DeepSeek-V3.2`) で、ストリーミング・非ストリーミングを問わず一貫して配信されるようになりました。`MiniMax-M3` は reasoning トークンをレポートし、思考モード (thinking mode) の選択をサポートします。 *** **`/v1/responses` での画像入力** 画像を含む `/v1/responses` へのリクエストが、正しく処理されるようになりました。従来は HTTP 500 を返すか、画像が暗黙のうちに破棄されていました。 *** **`/v1/models` がエッジでキャッシュされないように変更** `/v1/models` および `/v1/models/` が `Cache-Control: no-store` を返すようになり、一覧が最大 4 時間前の値ではなく、現時点でのモデルの利用可否を反映するようになりました。エッジキャッシュに依存していたクライアントは、レスポンスを自身でキャッシュしてください。 *** **トークン集計** * **Vision 経由でサービングされるモデルの reasoning トークン**：`gemma-4-31B-it` など、Vision パイプラインを通じてサービングされる reasoning モデルで、`usage.completion_tokens_details` が設定されるようになりました。 * **画像・動画トークンのカウント**：エキスパートルーティングが、画像・動画トークンをカウントするようになりました。これにより、ルーティングがテキストトークンのみをカウントしていたことに起因する、v2.0.2 の既知の問題として報告されていた 32K 境界付近での `gemma-4-31B-it` の HTTP 500 が解決されます。 *** **同一バッチ内の `qwen3-tts` リクエストでのサンプリングパラメータの独立化** 同一バッチにまとめられた talker リクエストが、それぞれ独立した `temperature`、`top_k`、`top_p`、`seed` の値を保持するようになりました。従来は、サンプリングパラメータの異なるリクエストが偶然同じバッチに入ると、HTTP 400 で拒否されていました。 *** ### バグ修正 * **エキスパートのシーケンス上限付近のプロンプトでの HTTP 500**：エキスパートのトークン生成上限に対するバッチングウィンドウ内に収まるプロンプトが、HTTP 500 を返していました。シーケンス次元はバッチ全体に対して解決されるため、そのようなプロンプトが 1 つあると、同じバッチに含まれるすべてのリクエストが失敗していました。`MiniMax-M2.7`、`gpt-oss-120b`、`gemma-4-31B-it` が影響を受けます。 * **同時負荷時の `prompt_tokens`**：Vision パイプラインがプロンプトトークンを処理中の別のリクエストに誤って帰属させ、使用量の集計が不正確になる問題を修正しました。これにより、v2.0.2 の既知の問題として報告されていた `prompt_tokens` の不一致が解決されます。 * **Vision Embedding の破損**：画像・動画の Embedding をエラーなく暗黙のうちに破損させ、エラーではなく誤った回答を生成する原因となっていた、パディングの不具合を修正しました。複数の画像・動画ページグループが、単一の Vision エンコーダー呼び出しにまとめてパックされるようになりました。 * **Vision プレフィルのパディング**：Vision のプレフィルが、最大値ではなく、ランタイムが選択したシーケンス長バケットに合わせてパディングされるようになり、固定ではないシーケンス範囲での形状不一致によるクラッシュを防止します。 * **モデルが存在しないクラスター**：モデル構成が存在しない場合に、API サーバーと認証・請求サービスがクラッシュループに陥り、再インストールがブロックされる問題を修正しました。 *** ### 提供終了と削除 **従来のバンドルリソースモデルは、v2.0.2 で発表したとおり、本リリースの 1 か月後である 2026年9月30日をもってサポート終了となります。** `BundleTemplate`、`Bundle`、`BundleDeployment` は同日までは引き続き機能します。それまでに `Model`、`ModelProfile`、`ModelDeployment`、`ModelBundle` に移行してください。フィールドの対応関係と手順については、[バンドル設定の移行](/docs/ja/sambastack/service-administration/model-deployment/deploying-models-and-bundles/sambastack-v2-bundle-migration) をご参照ください。 * **`sn-redis-exporter` を削除しました。** Deployment、Service、ServiceMonitor の各テンプレート、values ブロック、オンプレミス向けオーバーライドは、すべて削除されました。これを対象とするダッシュボードやアラートを削除してください。 * **`modelConfigGenerator.enabled` の values を削除しました。** values ファイルからこれらのキーを削除してください。モデル構成ジェネレーターは、常に認証・請求およびゲートウェイのデプロイメントに注入されるようになりました。 * **v1 のエアギャップ用アーティファクトダウンロードスクリプトを削除しました。** `download_bundle_artifacts_v2.sh` に完全に置き換えられています。旧スクリプトを呼び出しているランブックや自動化を更新してください。 *** ### 既知の問題 * **`MiniMax-M3` では Prompt Caching がサポートされません**：本モデルはテキスト・画像・動画向けにプレビューとして利用できますが、本リリースでは、このモデルに対して Prompt Caching は機能しません。リクエストは成功しますが、キャッシュヒットなしで処理されます。キャッシュ済みプレフィックスに依存する場合は、Prompt Caching に対応した他のバンドルを使用してください。 * **`MiniMax-M3` では制約付きデコーディングを利用できません**：本バンドルは制約付きデコーディングが無効な状態で提供されるため、このモデルでは `response_format` (`json_schema` および `json_object`) が生成中に強制されず、強制 `tool_choice` はモデル出力のベストエフォート解析にフォールバックします。構造化出力の保証が必要な場合は、制約付きデコーディングに対応したモデルを使用してください。 * **`swappable` がチェックポイント単位ではなくエキスパート単位で適用される**：2 つのエキスパートが同じ PEF を共有しつつ異なる `swappable` 値を設定している場合、先に設定されたエキスパートの値が両方に適用されます。PEF を共有するエキスパート間では、`swappable` を一貫した値に設定してください。 *** ## SambaStack v2.0.2 リリース **リリース日:** 2026年8月5日 **本リリースには破壊的変更が含まれます。** アップグレードの前に、下記の **破壊的変更** を確認して対応してください。 本リリースでは、以下の主要なアップデートを導入します。 * **新しいリソースモデル**：`Model`、`ModelProfile`、`ModelDeployment`、`ModelBundle` が `BundleTemplate`、`Bundle`、`BundleDeployment` を置き換え * **インフラのアップグレード**：Kubernetes 1.30 → 1.35 に加え、Keycloak、CloudNativePG、OpenEBS、Redis を更新 * **スタンドアロンのモデルチャート**：モデル定義を独立した `sambastack-models` Helm リリースとして提供 * **構造化出力の生成時適用**：制約付きデコーディング (constrained decoding) が有効なモデルでは、`json_schema` と `json_object` を生成後に検証するのではなく、生成中に適用 * **Text-to-Speech の改善**：マルチバッチストリーミングと言語の自動検出 * **モデルの更新**：`gemma-4-31B-it` が 256K コンテキストで画像・動画入力に対応 * API、デプロイメント、信頼性に関する一連の修正 デプロイの詳細、バンドル構成、コンテキスト長については、[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。以下のモデル、API、推論に関する変更は、SambaCloud にも適用されます。 ### 破壊的変更 | 変更 | 対応 | | :- | :- | | Kubernetes (RKE2) 1.30 → 1.35 | SambaNova サポートとともにアップグレードの実施時間枠を計画し、お客様が自身でインストールしたアプリケーションをバックアップしてください。 | | プラットフォームチャートがモデルリソースを作成しなくなりました | アップグレードの一環として `sambastack-models` リリースをインストールしてください。 | | `/v1/models` が `groups` と `display` を返さなくなりました | カテゴリ情報は `sn_metadata.category` から読み取ってください。 | | `db-admin` コンポーネントの削除 | `db-admin.admins` のリストを `auth-and-billing.admins` に移動し、`db-admin:` ブロックを削除してください。残存したブロックはエラーなしに無視されるため、管理者は何の警告もなく Admin UI へのアクセスを失います。マイグレーション、ID 管理、クレジットは、バックエンドサービスが担うようになりました。 | | モデルルーターの 4 つのエンドポイントを削除 | `/v1/serving_config`、`/v1/check_auth`、`/v1/deployments`、`/v1/bundle-templates` を呼び出すツールを更新してください。 | | `cd-gemma-4-31b-32-128-256k` を `gemma-4-31b-32-128-256k` に名称変更 | 旧バンドル名を参照しているデプロイメントを更新してください。 | ### インフラのアップグレード **大規模な破壊的変更を含む、影響の大きいリリースです。** * 今後のすべてのインフラおよびモデルのリリースは、新しい Kubernetes バージョン 1.35 上でのみサポートされます。 * アップグレードの前に、お客様が自身でインストールしたすべてのアプリケーションをバックアップしてください。SambaNova は、お客様がインストールしたアプリケーションのデータをバックアップ・復元できません。 * アップグレードに関するドキュメントの入手と、アップグレード実施時間枠の計画支援については、SambaNova のサポート窓口にお問い合わせください。 本リリースでは、コアプラットフォームのインフラをアップグレードします。 * **Kubernetes (RKE2)**：1.30 → 1.35 * **Keycloak**：26.3.1 → 26.7.0 * **CloudNativePG**：0.23.2 → 0.29.0 (Postgres 15 → Postgres 18) * **OpenEBS**：4.3.3 → 4.5.1 * **Redis**：23.1.1 → 27.0.15 (Redis 8.2.1 → 8.8.0) **CVE の修正** 本リリースには、サードパーティのオープンソース依存関係およびベースイメージの更新版が含まれており、これらのコンポーネントに影響する多数の公開済みセキュリティアドバイザリ (CVE) を解決します。SambaNova 独自のコードに脆弱性は確認されていません。 ### 新機能と機能強化 **モデルデプロイメントの新しいリソースモデル** SambaStack v2.0.2 では、組み合わせ可能な 4 つのカスタムリソースを導入します。 * `Model` * `ModelProfile` * `ModelDeployment` * `ModelBundle` これらは以下を置き換えます。 * `BundleTemplate` * `Bundle` * `BundleDeployment` `ModelDeployment` はモデルとプロファイルを直接参照できるため、モデルのサービングにバンドルは不要になりました。従来の形式も引き続き機能し、両者は同一クラスター内で共存できます。各リソースの関係については、[バンドル設定の移行](/docs/ja/sambastack/service-administration/model-deployment/deploying-models-and-bundles/sambastack-v2-bundle-migration) をご参照ください。 **従来のリソースモデルの提供終了。** 従来のリソースモデル形式は提供終了となりますが、**2026年9月30日**までは引き続き機能します。新規の設定には新しい形式を使用し、既存のバンドルは同日までに移行してください。フィールドの対応関係と移行手順については、[バンドル設定の移行](/docs/ja/sambastack/service-administration/model-deployment/deploying-models-and-bundles/sambastack-v2-bundle-migration) をご参照ください。 *** **スタンドアロンのモデルチャート** モデル定義がプラットフォームチャートから独立した `sambastack-models` Helm リリースに移動したため、プラットフォームに手を加えることなく、サービングするモデルを変更できるようになりました。デプロイメントは次の 3 つのリリースで構成され、この順序でインストールします。 1. `sambastack-base` 2. `sambastack` 3. `sambastack-models` **プラットフォームチャートはモデルリソースを作成しなくなりました。** アップグレードの一環として `sambastack-models` リリースをインストールしてください。インストールしない場合、クラスターは `Model`、`ModelProfile`、`ModelBundle`、`Pef` リソースが存在しない状態で起動します。 チャートの構成とインストール順序については、[モデルチャート](/docs/ja/sambastack/service-administration/model-deployment/models-chart) をご参照ください。 *** **モデルの更新** SambaStack v2.0.2 におけるモデルとバンドルのサポート更新は以下のとおりです。 * **`gemma-4-31B-it`**：`gemma-4-31b-32-128-256k` バンドルが、単一のバンドルで最大 256K のテキスト・画像・動画に対応し、制約付きデコーディングが有効になりました。 * **`qwen3-tts`**：talker バンドルの対応バッチサイズが、従来の 2 から 2、4、8、16 に拡大しました。 * **Vision 機能**：`gemma-3-12b-it`、`gemma-3-27b-it`、`gemma-4-31B-it` が、v1/models API を通じてテキストおよび Vision 機能を公開するようになりました。これはメタデータの修正であり、推論の動作に変更はありません。 対象とするコンテキスト長の KV シーケンス上限を超えるリクエストは、拒否されるのではなく、動的ティアリング (dynamic tiering) によってより大きなエキスパートで処理されます。このようなリクエストは、`finish_reason: length` とともに HTTP 200 を返します。 *** **Text-to-Speech / Audio API の改善** `/v1/audio/speech` を支える Qwen3-TTS パイプラインが、同時生成をサポートするようになりました。 * バッチサイズ 2、4、8、16 でのマルチバッチストリーミング生成。 * `language: auto` により、明示的な値を指定しなくても入力言語を検出します。 * 出力長に基づいて、リクエストを専用の vocoder エキスパートにルーティングします。 * 生成パスにおける音声転送オーバーヘッドの削減。 *** **Prompt Caching (プロンプトキャッシング)** Prompt Caching が、リクエストごとの再計算ではなく、推論パイプライン内の専用 KV キャッシュストアによって支えられるようになりました。 * リクエストは、アイドル状態のワーカーにルーティングされてキャッシュヒットを失うのではなく、すでにキャッシュを保持しているワーカーに固定されるようになりました。 * キャッシュされたリクエストでも `repetition_penalty` が適用されるようになりました。従来はこの値が無視され、`1.0` として扱われていました。 *** ### API の改善と修正 **`/v1/models` の変更** **後方互換性のない変更です。** モデル一覧のレスポンスから、`groups` 配列とモデルごとの `display` オブジェクトが削除されました。カテゴリ情報は `sn_metadata.category` から取得できます。 *** **構造化出力の生成時適用** 制約付きデコーディングが有効なモデルでは、`json_schema` および `json_object` のレスポンス形式が、生成完了後に検証されるのではなく、レスポンスの生成中に制約付きデコーディングによって適用されるようになりました。`json_object` の文法は、任意の有効な JSON 値を受け付けるのではなく、OpenAI の定義に合わせてオブジェクトリテラルに限定されます。 *** **`/v1/embeddings` の `encoding_format`** `/v1/embeddings` エンドポイントが、OpenAI 互換の `encoding_format` パラメータを受け付けるようになり、`float` および `base64` のレスポンスをサポートします。 *** **ストリーミングの打ち切りが OpenAI 準拠に** ストリーミングのツール呼び出しまたは構造化出力のレスポンスが `max_tokens` によって途中で打ち切られた場合、レスポンスが `finish_reason: length` と usage オブジェクトを保持するようになりました。 *** **ツール呼び出しの修正** * **強制 `tool_choice`**：強制的なツール選択のもとで生成されたレスポンスが、停止理由として `tool_calls` を報告するようになりました。 * **MiniMax のストリーミングツール呼び出し**：モデルがツール呼び出しの前にテキストを出力した場合でも、ツール呼び出しが失われなくなりました。 * **`gemma-4-31B-it` のツール呼び出し**：Responses API でツール呼び出しが成功するようになりました。制約付きデコーディング下での強制ツール呼び出しは、本リリースの既知の問題です。下記の **既知の問題** をご参照ください。 * **`Llama-4-Maverick-17B-128E-Instruct`**：関数名が null の場合、HTTP 400 を返すのではなく、ツール呼び出しなしとして扱われるようになりました。 *** **マルチモーダルモデルの `logprobs`** `gemma-4-31B-it` で、Vision-Language パイプラインを通じた `logprobs` および `top_logprobs` がサポートされるようになりました。 *** **マルチモーダル入力のバリデーション** マルチモーダル入力のバリデーションで `content` フィールドが任意になり、テキスト以外のパートのみを含むリクエストが受け付けられるようになりました。 *** ### バグ修正 * **Vision 入力での `gemma-4-31B-it` のクラッシュ**：Vision リクエストをクラッシュさせていたバッファ形状の不一致を修正しました。Vision のプレフィルは、最大値ではなく、ランタイムが選択したシーケンス長バケットに合わせてパディングされるようになりました。 * **`MiniMax-M2.7` の異常出力**：キャッシュヒットのないリクエストに対して、同一バイトの繰り返しからなる無意味な出力を生成するバッチングの不具合を修正しました。 * **`gemma-4-31B-it` のトークン集計**：null の `prompt_tokens_details` が使用状況レコードに伝播する問題を修正しました。 * **`gemma-4-31B-it` のツール結果画像**：ツールから返された画像に対して、チャットテンプレートでメディアプレースホルダが出力されるようになりました。 * **ルーター再起動後の持続的なエラー**：設定が利用可能になる前にルーターが起動した場合に、HTTP 500 を返し続ける問題を修正しました。設定ローダーがエラーを出さずに失敗する一方で、ヘルスチェックは正常を報告し続けていました。 * **バンドルデプロイメント名**：`.` を含む名前が、オペレーター内部の深い箇所でバリデーションに失敗するのではなく、対処可能なエラーで拒否されるようになりました。生成されるキャッシュサービス名が Kubernetes の制限内に収まるよう、バンドル名の長さに上限が設けられました。 *** ### 提供終了と削除 * **`db-admin` コンポーネントの削除。** データベースマイグレーション、ID 管理、クレジットは、バックエンドサービスが担うようになりました。管理者のメールアドレスは、トップレベルの `db-admin:` ブロックから `auth-and-billing.admins` に移動します。 ```yaml theme={} # Before (v1.x) — no longer has any effect db-admin: admins: - abc@example.com # After (v2.0.2+) auth-and-billing: admins: - abc@example.com ``` 残存した `db-admin:` ブロックがあっても Helm アップグレードは失敗せず、単に無視されます。インストールは成功したように見える一方で、そのリストに含まれるすべてのメールアドレスは、何の警告もなく Admin UI へのアクセスを失います。アップグレードの前にリストを移動してください。詳細は [ユーザーアクセスと権限](/docs/ja/sambastack/service-administration/platform-admin/usergroup-management#管理者の追加) をご参照ください。 * **モデルルーターの 4 つのエンドポイントを削除しました：**`/v1/serving_config`、`/v1/check_auth`、`/v1/deployments`、`/v1/bundle-templates`。いずれも、文書化された公開 API には含まれていませんでした。`X-SN-AUTH-EMAIL` ヘッダーは読み取られなくなりました。 * **`cd-gemma-4-31b-32-128-256k` は `gemma-4-31b-32-128-256k` に置き換えられました。** 制約付きデコーディングが全ティアで標準になったため、256K の `gemma-4-31B-it` バンドルには `cd-` プレフィックスが付かなくなりました。旧名を参照しているデプロイメントを更新してください。 *** ### 既知の問題 **制約付きデコーディング下での `gemma-4-31B-it` のツール呼び出しが失敗します。** `gemma-4-31B-it` に対してツール呼び出しを強制するリクエストは、`adapter_mapping_failed` で失敗します。モデルのツール呼び出し出力が、Gemma 4 用のパーサーではなく汎用の JSON パーサーで解析されるため、呼び出しをデコードできません。 * **影響あり**：強制 `tool_choice` (`required` または特定のツール名の指定)、並列ツール呼び出し、ネストされた引数スキーマ、引数を取らないツール。`/v1/chat/completions`、`/v1/responses`、`/v1/messages` のすべてが、ストリーミング・非ストリーミングを問わず影響を受けます。 * **影響なし**：ツール呼び出しを生成しない `tool_choice: auto` のリクエスト、および `tool_choice: none`。制約付きデコーディングを使用しないモデルのツール呼び出しを含め、他のすべてのモデルは影響を受けません。 * **推奨対応**：制約付きデコーディングを有効にした `gemma-4-31B-it` でツール呼び出しが必要な場合は、今後提供されるホットフィックスまで本リリースの適用を見送ってください。不要な場合は、v2.0.2 を安全にデプロイできます。 * **負荷時の `gemma-4-31B-it` の `prompt_tokens` 不一致**：一部のレスポンスが、処理中の別のリクエストに属する `prompt_tokens` 値を報告するため、使用量の集計が不正確になる可能性があります。補完の内容自体は影響を受けません。バッチサイズ 4 および 8 で確認されており、バッチサイズ 2 では発生しません。修正は次のリリースで予定されています。 * **32K 境界付近の画像を含むリクエストでの `gemma-4-31B-it` の HTTP 500**：シーケンス長によるルーティングはテキストトークンのみをカウントし、画像トークン (画像 1 枚あたり約 258 トークン) を除外します。画像を含めた合計が 32,768 を超えるリクエストは 32K スロットにルーティングされ、HTTP 500 `unexpected_error` で失敗します。画像の枚数またはテキストの長さを減らして、32K 未満に収めてください。 * **`swappable` がチェックポイント単位ではなくエキスパート単位で適用される**：2 つのエキスパートが同じ PEF を共有しつつ異なる `swappable` 値を設定している場合、先に設定されたエキスパートの値が両方に適用されます。PEF を共有するエキスパート間では、`swappable` を一貫した値に設定してください。 *** ## SambaStack v1.2.0 リリース **リリース日:** 2026年7月7日 本リリースでは、以下の主要なアップデートを導入します。 * **Text-to-Speech / Audio API**：新しい `/v1/audio/speech` エンドポイント * **Prompt Caching (プロンプトキャッシング)**：共通のプレフィックスを共有するリクエストのコストとレイテンシを削減 * **Mistral Large 3 675B**：Function calling (関数呼び出し) サポート、コンテキスト長を 32K に拡張 * **MiniMax M2.7**：新しい Prompt Caching バンドル * **Gemma 4 31B**：最大 128K コンテキストの動画理解、または最大 256K コンテキストのテキスト専用対応 (別々のバンドルであり、併用不可) * セキュリティ、認証、API に関する多数の改善 以下で言及するすべてのモデルとバンドルに関するデプロイの詳細、バンドル構成、コンテキスト長のオプションについては、[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。 ### 新機能と機能強化 **Text-to-Speech / Audio API** SambaStack が、Qwen3-TTS モデルファミリー (talker + vocoder) を基盤とする新しい `/v1/audio/speech` エンドポイントによる音声生成をサポートするようになりました。 * OpenAI の audio speech API の形式に従って、テキストから音声を生成します。 * バリデーション付きの任意の `language` パラメータ。サポートされていない言語を指定すると、サポート対象言語のリストとともに 400 が返されます。 * 生成スタイルを制御する任意の `sampling_params` オブジェクト (`temperature`、`top_p`、`top_k`、`seed`)。 *** **Prompt Caching (プロンプトキャッシング)** Prompt Caching は、共通のプレフィックスを共有するリクエスト (長いシステムプロンプト、ドキュメント Q\&A、マルチターン会話) のコストとレイテンシを削減します。 * `/v1/models` の `pricing` オブジェクトに、トークンあたりのキャッシュ料金を示す `input_cache_read` および `input_cache_write` フィールドが追加されました。 * レスポンスの usage オブジェクトで、`cached_tokens` が `input_tokens` とは別に報告されます。 * **MiniMax M2.7 の Prompt Caching バンドル**が SambaStack で利用可能になりました。 *** **モデルの更新** SambaStack 1.2.0 では、以下のモデルのサポートを追加しました。 * **Mistral Large 3 675B** (`Mistral-Large-3-675B-Instruct-2512`)：Function calling サポートを追加し、コンテキスト長のサポートを 32K に拡張しました。 * **MiniMax M2.7** (`MiniMax-M2.7`)：デフォルトサンプリングが有効な、新しい Prompt Caching バンドル。 * **Gemma 4 31B** (`gemma-4-31B-it`)：`gemma-4-31b-32-128k` バンドルで最大 128K コンテキストの動画理解を、別の `cd-gemma-4-31b-32-128-256k` バンドルで最大 256K に拡張されたテキスト専用コンテキストをサポートするようになりました。両者は併用できません。256K バンドルはテキスト専用であり、画像・動画入力はサポートしません。 * **Qwen3-TTS** (`qwen3-tts`)：新しい `/v1/audio/speech` エンドポイント向けの talker および vocoder モデル。 *** **Model CR の公開化** すべての Model Custom Resource が SambaStack チャートで `public: true` としてレンダリングされるようになり、オペレーターによる作業なしに API ディスカバリで参照できるようになりました。 *** **モデルレベルのフィールド** Model Custom Resource で定義するモデルレベルのフィールドのサポートを追加しました。これらのフィールドは、そのモデルのすべてのデプロイメントに自動的に適用されるため、バンドル側で設定する必要がなくなりました。 *** **スタンドアロン認証サービス** 認証サービスをメインのバックエンドから独立してデプロイできるようになり、よりきめ細かなスケーリングとアップグレードの制御が可能になりました。 *** ### API の改善と修正 **ストリーミングの修正: ツール呼び出しコンテンツ** ツール呼び出しリクエストがストリーミングされず、完全にバッファリングされていました。この問題は、デプロイされているすべてのモデルファミリーに影響していました。本リリースにより、ツール呼び出しリクエストの真の増分ストリーミングが復元されます。 *** **Messages API (`/v1/messages`) の修正** * **`stop_reason`**：モデルがツールを呼び出した際に、正しく `"tool_use"` を返すようになりました。 * **`disable_parallel_tool_use`**：正しく適用されるようになりました。 * **`role: "system"`**：MCP クライアントとの互換性のため、`messages[]` 配列が `role: "system"` を受け付けるようになりました。 * **認証エラーの形式**：認証エラーが Anthropic 標準のエラーエンベロープを返すようになりました。 *** **`ignore_eos` パラメータ** リクエストで `ignore_eos: true` を渡すことで、モデルの end-of-sequence トークンを超えて生成を継続できるようになりました。この機能はセキュリティ上の理由からデフォルトで無効になっており、バンドルのデプロイメントで有効化する必要があります。 *** **推論モデル向けの `response_format` 修正** 構造化出力の解析に、推論部分を取り除いた補完テキストを使用するようになり、Gemma 4 をはじめとする推論モデルで `` トークンが JSON 抽出を破損することを防ぎます。 *** ### バグ修正 * **サービスティアのデフォルト**：一部のモデルがデフォルトでどのサービスティアにも含まれず、リクエストを処理できるようにするには手動でのセットアップが必要になる問題を修正しました。すべてのモデルがデフォルトで含まれるようになりました。 * **Vision モデルのパス置換**：Vision モデルのパス置換に関する問題を修正しました。 * **カスタムバンドルにおける Gemma 4 のツール呼び出し**：カスタムバンドルで Gemma 4 が不正な形式のツール呼び出しレスポンスを返す問題を修正しました。 * **マルチモーダルパイプライン**：マルチモーダルメッセージの前処理中に `reasoning` フィールドが欠落する問題を修正しました。 * **思考プレフィックス**：思考プレフィックスを必要としないレスポンスに、余分な思考プレフィックスが出力される問題を修正しました。 * **Liveness probe**：長時間の単一リクエスト生成の実行中も liveness probe が維持されるようになり、モデルがレスポンスを生成している最中の誤検知による再起動を防止します。 * **Qwen3-TTS の音声アーティファクト**：PyTorch を 2.4 → 2.7 にアップグレードし、生成音声のバースト雑音を解消しました。 * **不正なバンドルリソース**：`hugepages` が `cpu`/`memory` の制限なしで指定されていた、デフォルトのバンドルリソース仕様を修正しました。 * **エアギャップ環境向けの Tiktoken キャッシュ**：エアギャップ環境の GPT-OSS デプロイメント向けに、Tiktoken の語彙ファイルがキャッシュされるようになりました。 *** ### 既知の問題 * **Gemma 4 31B の制約付きデコーディング (constrained decoding)**：テキスト専用入力の場合にのみ利用できます。 * **Qwen3-TTS のストリーム途中の音声アーティファクト**：約 60 秒を超えるクリップで、断続的な音声の乱れが発生します。長時間の音声合成ジョブでは、クリップが長くなるほどアーティファクトの発生頻度が増加します。60 秒未満のクリップは通常影響を受けません。 * **Qwen3-TTS の長文入力での音声品質低下**：約 1,000 語以上のテキスト入力では、生成の途中で音声品質が低下し、場合によってはほぼ無音や不明瞭な出力になることがあります。最良の結果を得るには、個々の TTS リクエストを 800 語未満に抑え、長いコンテンツは複数のリクエストに分割してください。 * **Qwen3-TTS の voice バリデーションの欠如**：`voice` フィールドが無効または欠落しているリクエストに対して、4xx エラーではなく音声出力付きの HTTP 200 が返されます。 * **DeepSeek-V3.2 の `response_format`**：DeepSeek-V3.2 では、構造化出力リクエスト (`response_format: json_object` または `json_schema`) が失敗することがあります。これは前リリースから継続しているリグレッションです。 * **`70b-3dot3-ss-full-whisper` がデプロイに失敗**：このバンドルは、繰り返し発生する起動プローブのタイムアウトにより起動に失敗します。再デプロイを試みても問題は解決しません。 *** ## SambaStack v1.1.1 リリース **リリース日:** 2026年5月27日 本リリースでは、Anthropic Messages API (`/v1/messages`) と 4 つの新しい SambaStack モデル (`Mistral-Large-3-675B-Instruct-2512`、`gpt-oss-20b`、`gemma-4-31B-it`、`MiniMax-M2.7`) を導入し、バンドル構成を PEF Custom Resource に移行するとともに、複数の未解決 CVE を修正します。 以下で言及するすべてのモデルとバンドルに関するデプロイの詳細、バンドル構成、コンテキスト長のオプションについては、[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。 **後方互換性のない変更。** 本リリースでは、`resubmit` バンドルメカニズムが削除され、モデル `Qwen3-235B` がフルネームの `Qwen3-235B-A22B-Instruct-2507` に名称変更されます。アップグレード前に、**新モデル** および **バンドル構成の変更** に記載のインライン警告をご確認ください。 ### 新機能と機能強化 **Anthropic Messages API (`/v1/messages`)** 新しい Anthropic 互換の Messages エンドポイントが利用可能になりました。SambaStack のオペレーターは、OpenAI API 形式への変換を必要とせず、Anthropic 形式のトラフィックを直接処理できるようになりました。 *** **新モデル** SambaStack 1.1.1 では、以下のモデルのサポートを追加しました。 * **Mistral Large 3 675B** (`Mistral-Large-3-675B-Instruct-2512`) * **gpt-oss 20B** (`gpt-oss-20b`) * **Gemma 4 31B** (`gemma-4-31B-it`)：Function calling および reasoning パーサーをサポート * **MiniMax M2.7** (`MiniMax-M2.7`) **`Qwen3-235B` は `Qwen3-235B-A22B-Instruct-2507` に名称変更されました。** クライアントのモデル名を `Qwen3-235B*` から `Qwen3-235B-A22B-Instruct-2507` に更新してください。 **1B ドラフトモデルのエキスパートは `private: true` に設定されました。** クライアントコードがこれらのエキスパートを公開モデルとして参照していないことをご確認ください。 *** **新しい PEF** * **PEF-1914 (gpt-oss-fp8-ss131072-bs8-dyt-1-cd:2)**：既存の `gpt-oss-120b` モデル向け。gpt-oss-fp8-ss131072-bs8-dyt-1-cd のより高性能なバージョンで、`logit_bias` のサポートが追加されています。 * **PEF-1910 (minimax-m2p5-ss196608-bs2-dyt-1-cd:1)**：`MiniMax-M2.5` と `MiniMax-M2.7` の両方に対して、構造化出力サポート付きで最大 192k のコンテキスト長を提供します。 *** **バンドル構成の変更** 本リリースでは、デプロイメント構成のバンドルから PEF Custom Resource への移行を継続しています。 * **チェックポイント共有は、PEF CR に基づいて自動的に構成されるようになりました。** `checkpoint_sharing_uuid` は常に対応する PEF CR から取得されます。ビルド済みバンドルはこの値をオーバーライドしなくなりました。ユーザー定義バンドルでもオーバーライドしないでください。 * `continuous_batching` と `constrained_decoding` は、バンドルではなく PEF CR で構成されるようになりました。 * `BundleTemplates` にエキスパートレベルのフィールドとして `apply_default_sampling_params` が追加されました。`True` に設定すると、サンプリングパラメータの値がモデルの `generation_config.json` から取得されます。 **バンドルから resubmit メカニズムが削除されました。** カスタムバンドルから `resubmit_to`、`resubmit_tool`、`enableResubmit` を削除してください。 *** ### API の改善と修正 **`logit_bias` パラメータ** チャット補完で `logit_bias` パラメータがサポートされるようになりました。 * [OpenAI の仕様](https://platform.openai.com/docs/api-reference/chat/create#chat-create-logit_bias) に準拠し、トークン ID を -100〜100 の範囲のバイアス値にマッピングする JSON オブジェクトを受け付けます。 * テキスト生成モデルにのみ適用されます。高スループットモデルおよびマルチモーダルモデルではサポートされません。 *** **`response_format` が `null` を受け付けるように変更** API サーバーのバリデーターが `response_format` に `null` を受け付けるようになり、OpenAI のより緩やかな形式に一致するようになりました。 *** **不正リクエストのエラー形式の改善** 不正な入力に対するエラーメッセージがより明確になり、エラーレスポンスが OpenAI 標準に準拠するようになりました。プラットフォーム間の一貫性のため、`http error` は `api http error` に名称変更されました。 範囲外の `logit_bias` トークン ID に対するレスポンス例: ```json theme={} { "error": { "message": "Token id 99999999 is out of the vocabulary range.", "type": "invalid_request_error", "param": "logit_bias", "code": "invalid_value" }, "request_id": "d7tfhubndjoecjv2ao50" } ``` *** ### バグ修正 **`modelSpecs` オーバーライドの処理** `modelSpecs` のオーバーライドで、ゼロ値のフィールド (空のリスト、スカラーの `false`、空文字列、ゼロの整数) が正しく適用されるようになりました。従来は helm のマージ中に、これらが暗黙のうちにスキップされていました。例: ```yaml theme={} configs: modelSpecs: - "*" - name: example-model metadata: category: [] # empty list now applied provider: "" # empty string now applied price: input_tokens: 0 # zero int now applied output_tokens: 0 public: false # scalar bool now applied ``` *** **`mm_token_type_ids` の処理** transformers 5.5.3 で追加された `mm_token_type_ids` が正しく処理されるようになりました。 *** **CVE の修正** 本リリースには、複数のクリティカルな CVE の修正とセキュリティ強化の改善が含まれます。個別の CVE の参照情報は、脆弱性スキャンのレビュー後に追加されます。 *** ### 既知の問題 * Mistral Large 3 675B (`Mistral-Large-3-675B-Instruct-2512`) には現在、Function calling の精度に問題があります。 * gpt-oss-20b および gpt-oss-120b は、エアギャップ環境ではデプロイに失敗します。エアギャップ環境でのこれらのモデルのデプロイについては、SambaNova 管理者にお問い合わせください。 *** ## SambaStack v1.0.57 リリース **リリース日:** 2026年4月30日 本リリースでは、新しいモデルのサポート (Gemma 3 12B、Gemma 3 27B、DeepSeek V3.2)、DeepSeek モデル向けの高スループット構成、GPT-OSS の制約付きデコーディングサポート、より正確で情報量の多いバンドルリーガライザー (bundle legalizer) のレスポンス、および OpenAI Responses API、`n` と `seed` パラメータ、TTFT 測定の改善、OpenAI 準拠のエラーレスポンスを含む API の大幅な機能追加を導入します。 以下で言及するすべてのモデルとバンドルに関するデプロイの詳細、バンドル構成、コンテキスト長のオプションについては、[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。 **サービス停止を伴うリリース - アップグレードにはダウンタイムが必要です。** メンテナンスウィンドウの計画時には、ノードあたり約 1 時間を見込んでください。 * 単一の SambaRack SN40L-16: アップグレードの間、システム全体のダウンタイムが必要です。 * 同一バンドルを実行する複数の SambaRack SN40L-16 ノード: ローリングアップグレードに対応しています。ノードに順次適用することで、縮退した処理能力でサービスを維持できます。 ### 新機能と機能強化 **新モデル** SambaStack 1.0.57 では、以下のモデルのサポートを追加しました。 * **Gemma 3 12B** (`gemma-3-12b-it`)：画像理解 * `gemma3-v3`: 128K コンテキスト、BS 2/4/6/8 * **Gemma 3 27B** (`gemma-3-27b-it`)：画像理解 * `gemma3-27b-32-128k`: 32K および 128K コンテキスト、BS 2/4/6/8 * **Qwen3 235B** (Qwen3-235B-A22B-Instruct-2507)：従来の `Qwen3-235B` モデル名は後方互換性のために維持されます * `dyt-qwen3-235b-32-128k`: 32K コンテキスト (BS 2/4/6/8)、128K コンテキスト (BS 2) * `qwen3-235b-16-32-64k`: 16K、32K、64K コンテキスト * `qwen3-235b-128k`: 128K コンテキスト * **DeepSeek V3.2**：高インタラクティビティ構成 (最大 128k コンテキスト) と高スループット構成 (最大 32k コンテキスト) で利用可能 * **GPT-OSS 120B**：制約付きデコーディング機能を追加。従来の標準 DYT バンドルは、制約付きデコーディングサポートが有効な 2 つのバンドルに置き換えられます * `cd-dyt-gpt-oss-120b-32-64-128k`: 32K、64K、128K コンテキスト * `cd-dyt-gpt-oss-120b-8-32-64-128k`: 8K、32K、64K、128K コンテキスト *** **高スループット構成** SambaStack 1.0.57 では、SambaRack ノードで実行するための高スループット構成オプションを導入します。 * 単一モデルの大規模なサービングに最適化されており、ユーザーごとのレイテンシよりもシステム全体のスループットを優先して、大量の同時ユーザーをサポートします * 低いエンドツーエンドレイテンシやインタラクティブ性を必要としないユースケースに適しています * この構成専用に最低 4 台の SambaRack ノードが必要です * 他のモデルとバンドルすることはできません * ユーザーに対して透過的であり、API やクライアントコードの変更は不要です * 分離型の prefill-decode アーキテクチャを使用し、ノード比率を構成できます (例: 3 ノードで prefill、1 ノードで decode を実行) 対応モデル: DeepSeek-R1、DeepSeek-V3-0324、DeepSeek-V3.1、DeepSeek-V3.1-Terminus、DeepSeek-V3.2。詳細は [対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。 高スループットデプロイメントの監視には、以下のログメトリクスを使用してください。 * `decode_queue_time`：処理開始までにリクエストが decode キューで待機する時間 (1.0.57 の新機能) * `time_to_first_token`：リクエスト受信から最初の出力トークンまでのレイテンシ * `completion_tokens_per_sec`：decode スループット *** **制約付きデコーディング (構造化出力)** トークン単位のスケジュールによる制約付きデコードマスクサンプリングを追加しました。PEF CR で `supports_constrained_decoding` を宣言しているモデルで、JSON スキーマ強制付きの構造化出力生成を使用できるようになりました。 バンドルでこの機能を有効にするには、BundleTemplate で `constrained_decoding: true` を設定してください。 *** **TTFT 測定の改善** より正確なレポートのため、`process_request()` の処理時間が TTFT およびエンドツーエンドレイテンシの測定に含まれるようになりました。 *** **バンドルリーガライザー: 精度とバリデーションの改善** メモリ計算に関するリーガライザーの精度を改善しました。利用可能なメモリまたはホストセグメントサイズを超えるバンドルは、実行時に失敗するのではなく、バリデーション時に拒否されるようになりました。 *** **Bundle CR ステータスにおけるバンドルのメモリ使用率** Bundle CR のステータスに、バンドルリーガライザーによるメモリ使用率データを含む `legalizerInfo` ブロックが追加されました。このブロックを確認するには、`kubectl get bundle -o yaml` を使用します。 | フィールド | 説明 | | - | - | | `status` | リーガライザーのバリデーション結果: `passed`、`failed`、または `skipped` | | `errors` | バリデーションエラーのリスト (`status: failed` の場合に存在) | | `warnings` | 致命的ではない警告 (警告付きで `status: passed` の場合に存在) | | `ddr` | DDR メモリ使用率 | | `hbm_resident` | HBM 常駐メモリ使用率。オーバーアロケーション時には 1.0 を超えることがあります | | `host` | ホストメモリ使用率 | リーガライザーの出力を処理できなかった場合、`status` フィールドは存在しません。`skipped` は、PEF CR に `skip_legalizer: true` が設定されている場合にのみ表示されます。 *** **PEF とチェックポイントのライフサイクルステータス** PEF CR に `pef_status` フィールドが、チェックポイント CR のバージョンエントリに `checkpoint_status` フィールドが追加され、オペレーターが Pod のログを調べることなくアーティファクトのライフサイクル状態を確認できるようになりました。 両フィールドのステータス値: * `preview`：新たに利用可能になった構成。十分にテストされていない場合や、完全な機能サポートがない場合があります。本番のユースケースには推奨されません * `stable`：十分にテストされた、本番利用可能な構成 * `deprecated`：まだ機能しますが、将来のリリースでの削除が予定されています * `removed`：利用できなくなっており、デプロイ前に置き換えが必要です バンドルをデプロイする前に PEF CR のバージョンを確認する際は、`pef_status` をチェックして、バージョンが `stable` であることを確認してください。 *** ### API の改善と修正 `chat/completions` エンドポイントと新しい `responses` エンドポイントにわたる、OpenAI 互換性の向上と新しい API 機能の追加です。 **Responses API** OpenAI 互換の Responses API (`POST /v1/responses`) がサポートされるようになりました。 * 現在の対応モデル: `gpt-oss-120b` * 対応機能: テキスト生成 (ストリーミングおよび非ストリーミング)、Function calling (2 ステップ)、構造化出力 (JSON スキーマ)、マルチターン会話 (クライアント管理の状態)、および推論出力 * ステートレスなリクエストセマンティクスを使用します。会話履歴はリクエストごとにクライアントから渡されます *** **usage レスポンスの `reasoning_tokens`** 推論モデルの `usage` オブジェクトに `reasoning_tokens` フィールドが追加され、モデル内部の推論ステップで消費されたトークン数が報告されるようになりました。 *** **GPT-OSS 120B の `tool_choice` サポート** `gpt-oss-120b` で `tool_choice` がサポートされるようになりました。受け付ける値は `auto`、`none`、`required`、および `{"type": "function", "function": {"name": "..."}}` です。 * Release 1.0.57 で `tool_choice` をサポートするのは `gpt-oss-120b` のみです * 関数呼び出しを強制する場合の形式は Chat Completions API の構造に従います。内側の `"function"` キーが必須であり、これを省略する Responses API の形式とは異なります * `allowed_tools` はサポートされません `tool_choice` は、制約付きデコーディングが有効な `gpt-oss-120b` バンドル (`cd-dyt-gpt-oss-120b-32-64-128k` および `cd-dyt-gpt-oss-120b-8-32-64-128k`) でのみサポートされます。 *** **`n` パラメータ - 複数補完** チャット補完で `n` パラメータがサポートされるようになりました。 * 有効範囲: 1〜16 (デフォルト: 1) * API レベルの分解によって実装されています。`n` 個の並列な単一補完リクエストが発行され、結合された後にクライアントへ返されます * リクエストに `tools` または `functions` が含まれる場合はサポートされません *** **`seed` パラメータ** 再現可能な出力を得るための `seed` パラメータがサポートされるようになりました。 * 負の値を含む任意の整数を受け付けます * テキスト生成モデルにのみ適用されます。マルチモーダルモデルおよび continuous batching モデルではサポートされません * (OpenAI とは異なり) `system_fingerprint` は返されません *** **OpenAI 準拠のエラーレスポンス** すべての API エラーレスポンスが OpenAI 標準のエラー形式を使用するようになりました。すべてのエラーレスポンスに、新しいトップレベルの `request_id` フィールドが含まれます。 ```json theme={} { "request_id": "abc-123", "error": { "message": "...", "type": "...", "param": null, "code": "..." } } ``` 問題を報告する際は、SambaNova のサポート窓口に `request_id` をお知らせください。 *** **構造化出力パーサーの修正** 特定のスキーマパターンで不正な出力が生成される、構造化出力のバグを修正しました。 *** **ツール呼び出し切り詰め時のエラーメッセージの改善** ツール呼び出しが最大トークン長を超えた場合のエラーメッセージを改善しました。 *** **空のストリーミングチャンクの削除** ストリーミングレスポンス中に出力されていた不要な空チャンクを削除し、OpenAI のストリーミング動作への準拠を改善しました。 *** **Whisper レート制限エラーコードの修正** レート制限を超過した際に、Whisper 文字起こしエンドポイントが正しい 429 ステータスコードを返すよう修正しました。 *** ### バグ修正 **PEF キャッシュの修正** Bundle を PEF CR を使用するように移行する際の、PEF キャッシュのバグを修正しました。 *** **認証プロバイダーバリデーションの修正** Keycloak も有効な場合にカスタムシークレットが誤って拒否される、Helm の認証プロバイダーバリデーションの問題を修正しました。 *** **CVE 対応の依存関係更新** 既知の CVE に対処するため、推論オペレーター、グローバルモデルルーター、および関連ライブラリの複数の依存関係バージョンを更新しました。 *** ### 既知の問題 **Gemma 3: Function calling 非対応** Gemma 3 12B および 27B は、ネイティブの Function calling をサポートしていません。Gemma モデルを使用するバンドルの `toolSupport: true` フラグは、一般的なネイティブ Function calling のサポートではなく、JSON 出力スキーマのサポートを示します。 * **影響**：`gemma-3-12b-it` で `tools` パラメータを使用したリクエストは、関数呼び出しの出力を生成しません。 * **回避策**：ユーザープロンプトでツール利用ロジックを実装することで、Function calling の動作を近似できます。 **Gemma 3 27B: 104k〜112k コンテキスト長での Vision モードの不安定性** `gemma-3-27b-it` への Vision リクエストで、断続的なエラーが発生することがあります。 * **影響**：104k〜112k トークンのコンテキスト長での `gemma-3-27b-it` への Vision リクエストで、レイテンシの増大を伴う断続的な HTTP 524 タイムアウトエラーが発生することがあります。テキストモードおよび Function calling モードは影響を受けません。 * **回避策**：当面は、104k〜112k のコンテキストウィンドウ範囲での Vision リクエストを避けてください。現在、修正に向けて調査中です。 *** ## SambaStack v0.5.17 リリース **リリース日:** 2026年4月8日 本リリースでは、4TB の DDR メモリを搭載した SambaRack SN40L-16 構成のサポートを導入します。 ### 新機能と機能強化 **クラスターレベルのメモリ管理** `sambastack.yaml` の環境変数を通じて、SambaRack SN40L-16 のクラスター全体の DDR メモリ制限を宣言するサポートを追加しました。この制限は、バンドル検証ツールによって適用されます。 * デフォルトのメモリ制限は 12TB です。4TB の DDR を搭載した SambaRack SN40L-16 をサポートするには、この値を更新してください。 * `DDR_PER_RDU_GB` 環境変数を設定します。デフォルトは `768` (ノードあたり 12TB) で、ノードあたり 4TB の場合は `256` に設定します。詳細は [**SambaStack.yaml リファレンス**](/docs/ja/sambastack/resources/sambastack-yaml) をご参照ください * メモリ制限は、クラスター内のすべての SambaRack ノードに適用されます。 * バンドル検証ツールが、実行時にこの制限を適用します。制限を超える構成は、内容のわかるエラーで失敗するため、モデル構成を削減する形でリファクタリングする必要があります。 ### 既知の問題 **4TB メモリ構成でインベントリチェックが degraded ステータスを表示** `snfadm inventory` を実行すると、4TB メモリ構成のノード内にある RDU に対して「degraded」ステータスが表示されます。 * **影響**：表示上の問題のみです。動作には影響しません。 * **解決**：将来のリリースで解決される見込みです。 *** ## SambaStack v0.5.14 リリース **リリース日:** 2026年4月1日 本リリースでは、簡素化されたチェックポイントディスカバリ、新しいモデルのサポート (MiniMax-M2.5、Agentic RAG バンドル)、強化されたインストール検証ツール、および OpenAI 互換性を向上させる複数の API 機能強化を導入します。 以下で言及するすべてのモデルとバンドルに関するデプロイの詳細、バンドル構成、コンテキスト長のオプションについては、[対応モデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) をご参照ください。 ### 新機能と機能強化 **Model CR によるチェックポイントパスのディスカバリ** チェックポイントパスを Model Custom Resource (CR) から確認できるようになり、お客様が設定ファイル内のチェックポイントパスを手動で探す必要がなくなりました。チェックポイントパスを含む Model CR は、以下の Kubernetes コマンドで表示できます。 ```bash theme={} kubectl -n describe model ``` 例: ```bash theme={} kubectl describe model minimax-m2.5 ``` * Model CR に、対応するすべてのモデルのチェックポイントパス情報が含まれるようになりました。 * 異なるモデル構成向けの複数のチェックポイントをサポートします。 * 既存のバンドル構成と後方互換性があります。バンドル CR でチェックポイントパスが指定されている場合は、そちらが Model CR のパスをオーバーライドします。 * オンプレミスおよびエアギャップ環境のデプロイメントで動作します。 **利用可能なモデルとバンドルのディスカバリの改善** 利用可能なすべてのモデルとバンドルが、SambaStack helm チャートによって自動的に適用されるようになりました。追加の構成は不要です。 * モデルは `kubectl -n get models` で確認できます。 * バンドルは `kubectl -n get bundles` で確認できます。 **Agentic RAG バンドル** 検索拡張生成 (RAG) ワークフローに最適化されたマルチモデルバンドル `us-agentic-rag-1-1` を追加しました。以下のモデル構成が含まれます。 * `gpt-oss-120b` * シーケンス長: 32K、BS: 4 * シーケンス長: 64K、BS: 2 * シーケンス長: 128K、BS: 2 * `Llama-4-Maverick-17B-128E-Instruct` * シーケンス長: 8K、BS: 1 * シーケンス長: 16K、BS: 1 * `Meta-Llama-3.3-70B` (ターゲット) / `Meta-Llama-3.2-1B` (ドラフト) * シーケンス長: 4K、BS: 1、4、8、16、32 * シーケンス長: 8K、BS: 1、4、8 * シーケンス長: 16K、BS: 1、4 * シーケンス長: 32K、BS: 1、4 * シーケンス長: 64K、BS: 1 * シーケンス長: 128K、BS: 1 * `Meta-Llama-3.1-8B-Instruct` * シーケンス長: 4K、BS: 1、4、16、32 * シーケンス長: 8K、BS: 1、4、16、32 * シーケンス長: 16K、BS: 1、4、8 * `E5-Mistral-7B-Instruct` * シーケンス長: 4K、BS: 1、4、8、16、32 **MiniMax-M2.5 モデルのサポート** SambaStack で MiniMax-M2.5 モデルのサポートを追加しました。 * チェックポイントには、お使いのアーティファクトリーダーサービスアカウントでアクセスできます。 * バンドル検証を通過するバンドルに MiniMax-M2.5 を含めて、正常にデプロイできます。 * 推論 (reasoning) サポートを含みます。 **インストール前後の検証スクリプト** 新しい検証スクリプトにより、インストールの前後に SambaStack 環境を検証できます。 * **インストール前スクリプト**：ハードウェア、接続性、ソフトウェアのすべての前提条件を検証します。 * **インストール後スクリプト**：すべての SambaStack コンポーネントがインストールされ、正常に動作していることを確認します。 * 明確な合否レポートと、失敗時に実行可能な対応ガイダンスを提供します。 * スクリプトは、現行の SambaStack リリースに対して保守・検証されています。 * README の手順とともに、公開 GitHub リポジトリ [sambastack-tools](https://github.com/sambanova/sambastack-tools) で配布されています。 **モデルごとのキュー深度構成** コンテキスト長に応じて異なるキュー深度を構成できるようになり、高コンテキスト長リクエストの安定稼働を最適化できます。 * サービスティア構成の `contextGroups` を使用して、コンテキスト長グループごとにキュー深度を構成できるようになりました。 * キュー深度は、モデル構成に対してキューイングできる同時リクエスト数を制御します。 * コンテキスト長が大きいものほどキュー深度を低くすることで、メモリの枯渇を防ぎ、サービス全体の安定性を向上させることができます。 * SambaStack がリクエスト時にキュー深度構成を検証するようになりました。キュー深度の定義が欠落した構成ミスのあるモデルは、暗黙のうちに失敗するのではなく、明確なエラーを表示します。 * `contextLengths` の空文字列 `""` は、コンテキスト長サフィックスのないベースモデル名 (例: `DeepSeek-R1-0528`) へのリクエストにマッチします。`-8k` や `-128k` などの明示的なサフィックスを持つリクエストは、対応する `contextLengths` の値にマッチします。 コンテキスト長サフィックス (8k、16k、32k など) は大文字と小文字が区別されます。すべての構成で小文字の `k` を使用してください。これは、SambaNova がサポートするすべてのモデルに適用されます。 `contextGroups` フィールドは、サービスティア内のモデルグループのサブコンポーネントです。構成例: ```yaml theme={} free: - models: - DeepSeek-V3-0324 - DeepSeek-R1-0528 queueDepth: 10 qos: free rates: - allowedRequests: 100 periodSeconds: 60 example_service_tier: inherits: free overrides: - models: - DeepSeek-V3-0324 queueDepth: 10 qos: example rates: - allowedRequests: 100 periodSeconds: 60 - models: - DeepSeek-R1-0528 queueDepth: 10 qos: example contextGroups: - contextLengths: ["", "8k"] queueDepth: 2 - contextLengths: ["16k", "32k", "64k", "128k"] queueDepth: 1 rates: - allowedRequests: 100 periodSeconds: 60 ``` **Helm チャート構成の更新** SambaStack Helm チャートで、`substitutions` フィールドが `bundles` から `global` に移動しました。 これは、エアギャップ環境および NFS をお使いのお客様に影響する破壊的変更です。アップグレード前に Helm の values ファイルを更新してください。 **変更前:** ```yaml theme={} bundles: substitutions: gs://: nfs:///nfsdata ``` **変更後:** ```yaml theme={} global: substitutions: gs://: nfs:///nfsdata ``` ### API の改善と修正 `chat/completions` エンドポイントの OpenAI 互換性を向上させる機能強化と、ストリーミングチャンクで使用量を追跡する新しい非標準機能です。 **ユーザーメッセージコンテンツにおけるテキストオブジェクトのサポート** * OpenAI の `ChatCompletionsContentPartText` 仕様に準拠した、コンテンツ配列内のテキストオブジェクトのサポートを拡大しました。 * 対象: DeepSeek-R1-0528、Llama-3.3-Swallow-70B-Instruct-v0.4、MiniMax-M2.5。 **対数確率 (log probabilities)** * `logprobs` フィールドを追加しました。`true` に設定すると、生成された各トークンの対数確率が返されます。 * `top_logprobs` フィールドを追加しました。整数 `n` に設定すると、各生成に対して上位 `n` 個の対数確率が返されます。 **ストリーミングチャンクにおける使用量** * ストリーミングレスポンスで返されるチャンクから、部分的な使用量統計を取得できる非標準機能を追加しました。 * この機能は、カスタムバンドルデプロイメントのレプリカグループセクションで `STREAM_USAGE_IN_CHUNKS: true` を設定することで有効になります。 **ツール選択 (tool choices)** Function calling をサポートするモデルでのみサポートされます。 * `tool_choice: none` を指定すると、モデルが利用可能なツールを参照しないことが保証されます。 **不正なメッセージロールのバリデーション** * `chat/completions` エンドポイントが不正なメッセージロールを拒否するようになりました。受け付けられるのは `user`、`assistant`、`system`、`tool` のみです。 **Whisper 音声エラーレスポンス** * 音声ファイルの処理に失敗した場合、Whisper 文字起こしエンドポイントが、単なる HTTP 400 ステータスコードではなく、内容のわかるエラーメッセージを返すようになりました。 ### バグ修正 **Function calling ルーティングの修正** * Function calling のルーティングでモデル名のプレフィックスチェックが正しく適用されず、一部のモデルでツールルーティングがスキップされる問題を修正しました。 **エアギャップインベントリの修正** * エアギャップインベントリに正しい `cloudnative-pg` イメージ構成を含めるよう修正し、オフラインインストール中のイメージ欠落エラーを防止しました。 ### 既知の問題 **SambaRack Manager が 2 PDU 構成に対応していない** SambaRack Manager は現在、2 台の PDU を持つ構成をサポートしていません。2 PDU 構成をお使いのお客様は、代替構成に関するガイダンスについて SambaNova のサポート窓口にお問い合わせください。 *** ## SambaStack v0.4.8 リリース **リリース日:** 2026年3月10日 本リリースでは、エアギャップ環境でのデプロイメントサポート、NFS ストレージを使用したカスタムチェックポイント管理、スワップ可能なモデル構成、および OpenAI 互換性を向上させる複数の API 機能強化を導入します。 ### 新機能と機能強化 **SambaStack のエアギャップ環境サポート** エアギャップ (air-gapped) モードでの運用サポートを追加し、セキュアで隔離されたデプロイメントを可能にしました。 * エアギャップ構成のインストール、アップグレード、セットアップは、SambaNova サポートと連携して実施します。 * 日常的な管理 (認証、ユーザー管理、カスタム DB) はセルフサービスを想定して設計されており、オンプレミスデプロイメントと同じワークフローに従います。 エアギャップ環境のデプロイメントについては、お客様のネットワーク構成が多様であるため、インストール、セットアップ、Keycloak UI にアクセスするためのポートフォワーディング、およびアップグレードの手順は文書化されていません。これらのワークフローについては、SambaNova サポートと連携して作業してください。 **NFS ストレージを使用したカスタムチェックポイント** デプロイメントで、お客様が用意した NFS ストレージ上のカスタムチェックポイントを参照できる機能を追加しました。 **バンドル内のスワップ可能なモデル** 高帯域幅メモリ (HBM) の使用率を最適化するため、構成可能なモデルスワップ動作を追加しました。 * デフォルトでは、バンドル内のすべてのモデルは HBM からスワップアウトして、DDR メモリ内の他のモデルと入れ替えることができます。 * この動作を有効または無効にするには、バンドルの YAML 定義で `swappable: ` フィールドを使用します。 * デフォルト値は `true` です。`false` に設定すると、モデルは HBM に常駐したままスワップアウトされなくなり、そのモデルへのリクエストの切り替え時間がゼロになります。 ### API の改善と修正 `chat/completions` エンドポイントの OpenAI 互換性を向上させる機能強化です。 **ユーザーメッセージコンテンツにおけるテキストオブジェクトのサポート** * OpenAI の `ChatCompletionsContentPartText` 仕様に準拠した、コンテンツ配列内のテキストオブジェクトのサポートを追加しました。 * 対象: gpt-oss-120b、DeepSeek-V3.1、DeepSeek-V3.1-Terminus、DeepSeek-V3.2、DeepSeek-V3-0324、Qwen3-32B、Qwen3-235B。 **response\_format の text オプション** * `response_format=text` を指定するとエラーになる問題を修正しました。 * エンドポイントが OpenAI のすべての形式 (`text`、`json_object`、`json_schema`) をサポートするようになりました。 **temperature 範囲の拡張** * OpenAI の仕様に合わせて、`temperature` の範囲を 0.0〜1.0 から 0.0〜2.0 に拡大しました。 **ツール呼び出しの数値型の修正** * number 型の引数を持つツールが、常に float を返していました。 * [JSON Schema の number 仕様](https://json-schema.org/understanding-json-schema/reference/numeric#number) に合わせて、整数が整数として保持されるようになりました。 **並列ツール呼び出しのサポート** * `parallel_tool_calls` パラメータのサポートを追加しました。 * `false` に設定すると、[OpenAI の仕様](https://platform.openai.com/docs/api-reference/chat/create#chat-create-parallel_tool_calls) に従い、モデルはレスポンスごとに最大 1 回のツール呼び出しのみを行います。 **ストリーミングでのトークン使用量レポート** * ストリームの各チャンクでトークン使用量をレポートするサポートを追加しました。 ### 既知の問題 * 制約付きデコーディングとの並列ツール呼び出し。 * 以下のモデルは、`logprobs=true` または `top_logprobs` が設定されていても、`logprobs` に `null` を返します。パラメータはエラーなく受け付けられますが、効果はありません。 * Llama-4-Maverick-17B-128E-Instruct * Whisper-Large-v3 *** ## SambaStack 初回リリース **リリース日:** 2025年9月19日 本リリースでは、包括的な SambaStack ドキュメントスイートを導入します。 ### 新機能と機能強化 **SambaStack ガイド** [SambaStack](https://sambanova.ai/products/sambastack) のデプロイ、構成、管理の手順をステップごとに解説する [SambaStack ガイド](/docs/ja/sambastack/getting-started/introduction) を追加しました。 * セットアップ、インストール、環境構成。 * ユーザーおよび認証管理 (Keycloak、OIDC)。 * 監視、ログ管理、アーティファクト管理。 * バンドルおよびモデルのデプロイワークフロー。 * よく使用されるコマンドリファレンス。 **SambaStack モデル** SambaStack で利用可能なモデルとその構成方法を確認できる [SambaStack のモデルとバンドル](/docs/ja/sambastack/service-administration/model-deployment/supported-models-and-bundles) ページを追加しました。 * 対応するすべてのモデルの一覧 (例: Llama 3.3、Llama 4 Maverick、DeepSeek)。 * コンテキスト長、バッチサイズのオプション、対応機能の表示。 * お使いの環境での利用可否を確認するための、Model list API の使用手順。