推論ルーターメトリクス
推論ルーターメトリクスは、コア推論レイヤーにおけるキュー、スケジューリング、リクエストのライフサイクルを表します。推論ルーターメトリクス一覧
メトリクス名とラベルセットは、今後変更される可能性があります。メトリクススキーマの変更については、リリースノートをご参照ください。
監視と可観測性
メトリクス
本ページでは、推論ルーター (inference router) と関連サービスが Prometheus 形式で公開するメトリクスについて説明します。これらは、ダッシュボード、SLO、アラートでの利用を想定した数値の時系列データです。