SambaNova の Responses API (POST /v1/responses) は、OpenAI Responses API 標準と互換性があります。OpenAI Responses API 向けに構築された既存のクライアントや SDK は、コードを変更することなく SambaNova のエンドポイントに接続できます。このエンドポイントは、エージェント型・ツール対応・コーディング指向の連携向けに設計されています。
Responses API は、既存の Chat Completions API を補完するものであり、置き換えるものではありません。
対応モデル
gpt-oss-120b
MiniMax-M2.7
MiniMax-M3
gemma-4-31B-it
今後のリリースで、さらにモデルが追加される予定です。
gpt-oss-120b でツール呼び出しリクエストの品質を高めるには、reasoning_effort を high に設定してください。
仕組み
Responses API は、モデルの出力を単一のアシスタントテキストフィールドではなく、型付き出力アイテム (message、function_call、reasoning) として構造化します。各リクエストは、モデルの動作に応じて、これらのアイテムを 1 つ以上含むレスポンスオブジェクトを返します。
主な特徴
ステートレス: SambaNova は会話の状態を保存しません。マルチターン会話を継続するには、後続の各リクエストの input 配列に、関連する過去の出力アイテムを含めてください。
クライアント実行ツールのみ: ツールが必要な場合、モデルは function_call アイテムを返します。アプリケーション側で関数を実行し、後続のリクエストで結果を返します。組み込みツールおよびサーバー実行ツールは未対応です。
構造化ストリーミング: ストリーミング応答には、event → item → content → delta のイベント階層を持つ型付き Server-Sent Events (SSE) を使用します。
構造化出力: text.format フィールドは、json_schema および json_object 形式タイプに対応しています。
推論対応: 推論対応モデルは、reasoning 出力アイテムとして推論内容を公開します。
利用方法
シンプルな生成
ストリーミング応答
応答の生成に合わせて型付き SSE イベントを受け取るには、stream=True を設定します。
Function calling
ツールを指定すると、モデルはメッセージの代わりに function_call アイテムを返すことがあります。関数の実行と結果の返却は、アプリケーション側の責務です。
ステップ 1: ツールを定義してリクエストを送信します
ステップ 2: ツールを実行し、結果を返します (ステップ 1 の client、response、tools を使用します)
構造化出力
応答を JSON スキーマに制約するには、text.format フィールドを使用します。
マルチターン会話
Responses API はステートレスです。複数ターンにわたってコンテキストを維持するには、後続の各リクエストの input 配列に、新しいユーザーメッセージと併せて過去のすべての出力アイテムを含めてください。
制限事項
previous_response_id パラメータは未対応です。SambaNova Responses API はステートレスであるため、過去の出力アイテムを input 配列に含めることで会話履歴を管理してください。
- 組み込みツールおよびサーバー実行ツールは未対応です。クライアントで実行する関数ツールのみ利用できます。