前提条件
- SambaCloud アカウントと API キー
- Python 3.10 以上がインストールされていること
セットアップ
1
Oumi のインストール
2
API キーのエクスポート
利用方法
SambanovaInferenceEngine を作成し、推論を実行します。
会話の渡し方やレスポンスの取得方法を含む詳しい利用方法は、Oumi SambaNova 推論エンジンの API リファレンス をご参照ください。
トラブルシューティング
ModuleNotFoundError: oumi
ModuleNotFoundError: oumi
- 有効化した仮想環境内で
pip install oumiを実行してください - 仮想環境が有効になっていることを確認してください。
which pythonの出力が.venv内を指しているはずです
認証エラーまたは API キー未設定
認証エラーまたは API キー未設定
- キーがエクスポートされていることを確認します:
echo $SAMBANOVA_API_KEY export SAMBANOVA_API_KEY="your-key"で再度エクスポートしてから再試行してくださいRemoteParams(api_key_env_varname="SAMBANOVA_API_KEY")は実行時に環境変数を読み取るため、同じシェルセッションで設定されている必要があります
モデルが見つからない、またはモデル名が不正
モデルが見つからない、またはモデル名が不正
- SambaCloud のモデルページ でモデル名を確認してください
- モデル名は大文字と小文字が区別されます。ポータルに表示されている文字列をそのまま使用してください
インストール時の Python バージョンエラー
インストール時の Python バージョンエラー
- Oumi には Python 3.10 以上が必要です。
python --versionで確認してください - 古いバージョンを使用している場合は、Python 3.10 以上で新しい仮想環境を作成してください
参考情報
Oumi API リファレンス
会話・レスポンス・設定オプションを含む SambanovaInferenceEngine API の全リファレンス。
Oumi ドキュメント
トレーニング、評価、推論を扱う Oumi の公式ガイド。
対応モデル
SambaCloud で利用可能な最新のモデル一覧。
SambaCloud ポータル
SambaCloud の API キーの生成と管理。