Skip to main content
SambaStack は、業界最高水準のパフォーマンスとエネルギー効率を備え、主要なオープンソースモデルを標準でサポートする、ターンキー型 (turnkey) の AI 推論プラットフォームです。クラウド (ホステッド) 版とオンプレミス版の両方で提供されます。 SambaStack では、次のことができます。
  • 主要な AI モデルのデプロイ – Meta、DeepSeek、Mistral AI、Google をはじめとする 9 社以上のプロバイダーのモデルに、統一されたプラットフォームからアクセスできます。
  • レイテンシと推論コストの削減 – 組み込みの Prompt Caching (プロンプトキャッシング) により、継続的なワークロードで 90% 以上のキャッシュヒット率を実現します。
  • 柔軟なデプロイ方式 – 自社インフラ上で運用することも、SambaNova のフルマネージドサービスを利用することもできます。

本ガイドの想定読者

以下を管理するシステム管理者:
  • ハードウェアインフラ
  • Kubernetes クラスター
  • 推論サービス (モデル、ユーザーグループ、アクセス制御)

必要なスキル

  • Linux システム管理
  • Kubernetes の運用 (kubectl、Helm)
  • ログ分析とトラブルシューティング
  • システム認証情報の管理
新機能、改善、バグ修正、バージョンごとの更新情報については、SambaStack リリースノート をご覧ください。推論サービスの機能や API の使い方については、開発者ガイド をご参照ください。

​
デプロイメントオプション

SambaStack ホステッド

SambaNova が提供するフルマネージドのクラウドサービスです。基盤となるインフラを管理することなく、高性能な推論サービスを構築・運用できます。AI ハードウェアと Kubernetes 環境は SambaNova が提供・保守し、お客様は AI サービス (モデルの選択、ユーザーグループ、ユーザー) の設定と管理を行います。クイックスタートガイド

SambaStack オンプレミス

お客様自身のデータセンターで稼働し、AI インフラ、Kubernetes 環境、デプロイする AI サービスを完全に管理できます。モデルの選択、ユーザーグループ、ユーザーに至るまで、貴組織のニーズに合わせてすべてをエンドツーエンドで管理します。クイックスタートガイド

​
デプロイメント方式の比較

リクエスト、管理、周辺インフラがどのように接続されるかの全体像については、オンプレミス版のアーキテクチャ図と接続フロー をご覧ください。

​
主な機能の紹介

対応モデルとバンドル

利用可能なモデル、コンテキスト長、機能を確認できます。

モデルバンドルのデプロイ

SambaStack に最初のモデルバンドルをデプロイします。

Prompt Caching

繰り返し使われるコンテキストをキャッシュして、レイテンシとコストを削減します。継続的なトラフィックでは、キャッシュヒット率は 90% 以上に達します。

認証

デプロイメントに OIDC または LDAP 認証を設定します。