SambaStack モデルデプロイメントのトラブルシューティング

デプロイメントの失敗が発生する場所は 2 つあり、どこで失敗が報告されたかによって、どちらの表を参照すべきかがわかります。

失敗の分類	報告元	対象
Legalizer の検証失敗	Legalizer。サービング Pod が作成される前に発生し、`status.legalizerInfo` に報告されます。	自作した `ModelBundle`、およびインラインの `spec.models` 仕様を使用する (その場で Legalizer による検証を受ける) すべての `ModelDeployment`。
デプロイの失敗	オペレーター。サービング Pod の作成開始後に発生し、`ModelDeployment` に報告されます。	バンドル由来かインライン仕様由来かを問わず、すべてのデプロイメント。

インラインの spec.models 仕様から作成されたデプロイメントは、その場で Legalizer による検証を受けるため、両方の分類の失敗が発生し得ます。

Legalizer の検証失敗

エラーは status.legalizerInfo.errors に表示され、ValidationFailed の原因になります。警告は status.legalizerInfo.warnings に表示され、デプロイを妨げません。Legalizer の結果をご覧ください。

エラーパターン	原因	解決方法
`PEF pef1 and pef2 are not checkpoint compatible (checkpoint #0)`	同じ `ckpt_sharing_uuid` を持つ PEF がチェックポイントメモリを共有できない	互換性のない PEF に異なる `ckpt_sharing_uuid` の値を割り当ててください
`<checkpoint>: checkpoint sharing not enabled for <expert-a> and <expert-b>`	警告のみ。2 つのエキスパートがチェックポイントメモリを共有できないため、それぞれが独自のコピーを保持します	対応は不要です。重複したメモリを回収するには、ティアの数を減らすか、チェックポイントを共有できる PEF を使用してください
`Bundle exceeds memory constraints`	PEF とチェックポイントの合計サイズが RDU のメモリを超えている	バッチング設定内のティアの数またはバッチサイズを減らしてください
`PEF not found: <pef-name>`	参照された PEF が存在しない	`kubectl get pefs` で PEF 名を確認してください
プロファイルまたはモデルの参照を解決できない	指定した名前の `ModelProfile` または `Model` が名前空間に存在しない	`kubectl get modelprofiles` と `kubectl get models` で名前を確認してください

症状	考えられる原因	解決方法
デプロイが pending のまま進まない	RDU リソースの不足	クラスターのキャパシティを確認し、`minReplicas` を減らしてください
チェックポイントのダウンロードが失敗する	チェックポイントのパスが無効、または認証情報がない	Model の `source` パスを確認し、`sambanova-artifact-reader` Secret が存在することを確認してください
API からモデルにアクセスできない	モデル名の不一致、またはモデルがルーティング不可	Model の `spec.name` を確認し、`modelSettings.routable` が `false` に設定されていないことを確認してください
ドラフトモデルが直接サービングされる	ドラフトモデルがルーティング可能なままになっている	ドラフトモデルのエントリで `modelSettings.routable` を `false` に設定してください

Legalizer の結果と、Legalizer が検証するフィールド

デプロイメントリソースの全フィールドのリファレンス