メインコンテンツへスキップ
vCluster はサードパーティ製品です。SambaNova は vCluster の保守・推奨・監査を行っていません。本リファレンスアーキテクチャは情報提供を目的としており、vCluster の変更に伴い内容が古くなる可能性があります。
1 つの SambaStack インストールは 1 つの組織を対象とし、API エンドポイント・ユーザーディレクトリ・モデルデプロイメント一式をそれぞれ 1 つずつ持ちます。複数のチームや顧客がそれぞれ専用の SambaStack を必要とする場合、物理クラスターを個別に用意する代わりに、同一のホスト Kubernetes クラスター上で各テナントに仮想クラスター (virtual cluster) を割り当てることができます。 vCluster は、テナントの Kubernetes コントロールプレーン (API サーバー・コントローラーマネージャー・etcd) を、ホストクラスターの Namespace 内の Pod として実行します。テナントは専用の kubeconfig を受け取り、標準の オンプレミス手順 で SambaStack をインストールします。2 つのモデルの違いは、テナントがワーカーノードをどのように手に入れるかにあります。
想定読者: 社内チーム・事業部門・マネージド推論サービスの顧客など、複数のテナントに対して 1 つの SambaStack ホストクラスターを運用するプラットフォームチーム。

各テナントに提供されるもの

  • 専用の Kubernetes API。 テナントのユーザーや自動化処理は、テナント用の kubeconfig を使用します。ホストクラスターや他のテナントが見えることはありません。
  • 専用の SambaStack。 各テナントは、自身の仮想クラスターに SambaStack の Helm チャートをインストールし、ホスト名・TLS 証明書・ユーザーディレクトリ・モデルデプロイメントを独自に持ちます。
  • RDU ノードの丸ごと占有。 SambaStack のデプロイメントはノードを丸ごと占有し、ノードがテナント間で共有されることはありません。SambaRack SN40L-16 では、最小のテナントは 16 RDU を持つ 1 ノードです。モデルがノード障害に耐える必要があるテナントには 2 ノード、高スループットの分離モード構成 には少なくとも 4 ノードを計画してください。プライベートノードの場合は、SambaStack プラットフォーム用に、テナントごとに少なくとも 2 台の CPU ノードを追加します。
  • コントロールプレーンは RDU の外で稼働。 テナントのコントロールプレーンはホストクラスターの CPU ノードプール上で動作するため、テナントの RDU キャパシティを一切消費しません。

2 つのノードモデル

vCluster がテナントにワーカーノードを提供する方法は 2 通りあります。どちらにするかはテナントの作成時に選択し (privateNodes.enabled)、テナントを再デプロイしない限り変更できません。
テナント専有のラベル付きノードプールを用意しても、それは依然として共有ノードモデルです。vCluster の プロダクションガイド は、共有ノードを「信頼できるテナント向けにサポートされるモデルであり、クラスターやスケジューラーへのアクセス、あるいは任意のワークロードの実行が可能な、信頼できないテナントに対するセキュリティ境界ではない」と明記しています。

モデルの選択

次のいずれかに当てはまる場合は、プライベートノード を選択してください。
  • テナントが外部である: 顧客、パートナー、または容量の再販先。
  • テナントが、自身の仮想クラスターに対する cluster-admin またはスケジューラーへのアクセス権を持つ。
  • テナントが管理外のワークロードを実行する、または規制によってノードレベルの分離が求められている。
  • RDU のメンテナンス中も、テナントの API・UI・ログインを中断してはならない。
共有ノード は、テナントが組織内の信頼できるチームであり、テナントの cluster-admin 権限の kubeconfig をプラットフォームチームが保持する場合に選択してください。共有ノードはセットアップが少なくて済みます。vCluster Platform もノードの参加作業も不要で、ホストの RDU ノードのソフトウェアもそのまま使えます。

リファレンス構成

共有ノード

ホストの RDU ノードをテナント用にラベル付けし、TLS パススルーゲートウェイ経由でテナント API を公開します。オープンソース版 vCluster を使用します。

プライベートノード

専用の CPU ノードと RDU ノードをテナントのコントロールプレーンに直接参加させます。vCluster Platform を使用します。

参考情報