Skip to main content
DataRobot は、組織が予測 AI や生成 AI モデルを大規模に構築・デプロイ・ガバナンス管理できるエンタープライズ AI プラットフォームです。カスタム LLM デプロイメント、RAG ブループリント、エージェント型ワークフローなど、モデルライフサイクル管理のためのエンドツーエンド環境を提供します。

​
概要

SambaNova モデルは、カスタム管理 LLM として DataRobot Workbench に直接統合できます。接続後は以下が可能になります。
  • RAG およびエージェント型ワークフロー内での SambaNova モデルの利用
  • Playground チャットからのモデルとの対話
  • DataRobot のガバナンスとモニタリング機能によるデプロイメントの一元管理
実装の詳細については、SambaNova DataRobot 連携ガイド (英語) をご参照ください。

​
前提条件

  • SambaCloud アカウントおよび API キー
  • DataRobot Workbench、Console、Registry へのアクセス権

​
必要なファイル

以下のファイルを SambaNova integrations リポジトリからダウンロードしてください。

​
セットアップ

1

カスタムモデルの作成

  • Registry → Workshop → + Add Model に移動します
  • Proxy タイプを選択し、ターゲットタイプに TextGeneration を指定します
  • custom.py、requirements.txt、model-metadata.yaml の各ファイルをアップロードします
2

環境のビルド

  • ベース環境として [GenAI] Python 3.12 with Moderations を選択します
  • Build をクリックし、「Environment built successfully」と表示されるまで待機します
3

ランタイムパラメータの設定

ランタイムパラメータエディタを開き、以下を設定します。
  • SAMBANOVA_API_KEY → SambaNova API トークン
  • SAMBANOVA_API_BASE → https://api.sambanova.ai/v1
  • SAMBANOVA_MODEL → SambaCloud モデルページに記載のモデル ID
DataRobot のカスタムモデル設定ページ
4

モデルの登録

  • Registry → Models → Register Model に移動します
  • カスタムモデルのバージョンを選択し、Register をクリックします
  • モデルが Registry に Registered ステータスで表示されることを確認します
5

モデルのデプロイ

  • Registry → Models → Deploy に移動します
  • 先ほど登録したカスタムモデルを選択します
  • デプロイメントのステータスが Active になるまで待機します
DataRobot のモデルデプロイページ
6

RAG またはエージェント型ワークフローへの接続

  • Workbench で新しい GenAI RAG ユースケースを作成します
  • Playground → Create LLM blueprint → Add deployed LLM に移動します
  • 対象のデプロイメント (例: SambaNova Chat) を選択します
  • Chat model ID に SambaNova モデル名を設定します (SambaCloud モデルページを参照)
  • 設定を検証して追加します
  • ベクトルストア、システムプロンプト、履歴管理の設定を構成します
これで、RAG ワークフローは DataRobot の管理されたデプロイメントレイヤーを経由して、SambaNova のライブモデルを利用できるようになりました。
SambaNova モデルを使った DataRobot の RAG Playground

​
トラブルシューティング

  • ベース環境として [GenAI] Python 3.12 with Moderations が選択されていることを確認してください
  • 3 つのファイル (custom.py、requirements.txt、model-metadata.yaml) がすべてアップロードされていることを確認してください
  • ビルドログで依存関係の不足によるエラーがないか確認してください
  • SambaCloud ポータルで SAMBANOVA_API_KEY が正しく、有効であることを確認してください
  • SAMBANOVA_API_BASE が https://api.sambanova.ai/v1 に設定されていることを確認してください
  • SAMBANOVA_MODEL が SambaCloud モデルページに記載の有効なモデル ID と一致していることを確認してください
  • 数分待ってください。デプロイには時間がかかることがあります
  • DataRobot のデプロイメントログでエラーがないか確認してください
  • ステータスが変わらないままの場合は、再デプロイしてください

​
参考情報