DeepSeek-R1-0528 /
DeepSeek-V3.1 | deepseek-r1-v31-fp8-16k | | ViewModels: DeepSeek-R1-0528DeepSeek-V3.1
|
DeepSeek-V3-0324 | deepseek-r1-v3-fp8-16k | | ViewModels: DeepSeek-R1-0528DeepSeek-V3-0324
|
E5-Mistral-7B-Instruct /
Meta-Llama-3.1-8B-Instruct | us-agentic-rag-1-1 | - 小〜中程度のコンテキスト長と多様なバッチサイズ
Meta-Llama-3.3-70B で投機的デコーディングをサポート
| Viewgpt-oss-120b- Seq Length: 32K, BS: 4
- Seq Length: 64K, BS: 2
- Seq Length: 128K, BS: 2
Llama-4-Maverick-17B-128E-Instruct- Seq Length: 8K, BS: 1
- Seq Length: 16K, BS: 1
Meta-Llama-3.3-70B (Target)/ Meta-Llama-3.2-1B (Draft)- Seq Length: 4K, BS: 1, 4, 8, 16, 32
- Seq Length: 8K, BS: 1, 4, 8
- Seq Length: 16K, BS: 1, 4
- Seq Length: 32K, BS: 1, 4
- Seq Length: 64K, BS: 1
- Seq Length: 128K, BS: 1
Meta-Llama-3.1-8B-Instruct- Seq Length: 4K, BS: 1, 4, 16, 32
- Seq Length: 8K, BS: 1, 4, 16, 32
- Seq Length: 16K, BS: 1, 4, 8
E5-Mistral-7B-Instruct- Seq Length: 4K, BS: 1, 4, 8, 16, 32
|
gemma-3-27b-it | gemma3-27b-32-128k | gemma-3-27b-it の構成のみを含む単一モデルバンドル (homogeneous bundle)。 | Viewgemma-3-27b-it- Seq Length: 32K, BS: 2, 4, 6, 8
- Seq Length: 128K, BS: 2, 4, 6, 8
|
gemma-3-12b-it | gemma3-v3 | gemma-3-12b-it の構成のみを含む単一モデルバンドル。- 長いコンテキスト長と中程度のバッチサイズ
| Viewgemma-3-12b-it- Seq Length: 128K, BS: 2, 4, 6, 8
|
gemma-4-31B-it § | gemma4-31B-128k | gemma-4-31B-it の構成のみを含む単一モデルバンドル。- プレビューモデル – テキストのみ。
| Viewgemma-4-31B-it- Seq Length: 128K, BS: 2, 4, 6, 8
|
gpt-oss-120b | cd-dyt-gpt-oss-120b-32-64-128k †cd-dyt-gpt-oss-120b-8-32-64-128k †
| gpt-oss-120b 向けの制約付きデコーディング (constrained decoding) に対応した単一モデルバンドル。cd-dyt-gpt-oss-120b-8-32-64-128k は 8K コンテキストのサポートを追加。- 更新版の PEF は構造化出力 (logit マスキング) をサポート。
| Viewcd-dyt-gpt-oss-120b-32-64-128k- Seq Length: 32K, BS: 2, 4, 6, 8
- Seq Length: 64K, BS: 2, 4
- Seq Length: 128K, BS: 2
cd-dyt-gpt-oss-120b-8-32-64-128k- Seq Length: 8K, BS: 2, 4, 6, 8
- Seq Length: 32K, BS: 2, 4, 6, 8
- Seq Length: 64K, BS: 2, 4
- Seq Length: 128K, BS: 2
|
gpt-oss-20b | dyt-gpt-oss-20b-32-64-128k † | gpt-oss-20b 向けの制約付きデコーディングに対応した単一モデルバンドル。 | Viewdyt-gpt-oss-20b-32-64-128k- Seq Length: 8K, BS: 2, 4, 6, 8
- Seq Length: 32K, BS: 2, 4, 6, 8
- Seq Length: 64K, BS: 2, 4
- Seq Length: 128K, BS: 2
|
Llama-4-Maverick-17B-128E-Instruct | llama-4-medium-8-16-32-64-128k | Llama-4-Maverick-17B-128E-Instruct の構成のみを含む単一モデルバンドル。- 小〜長いコンテキスト長と低バッチサイズ
| ViewLlama-4-Maverick-17B-128E-Instruct- Seq Length: 8K, BS: 1
- Seq Length: 16K, BS: 1
- Seq Length: 32K, BS: 1
- Seq Length: 64K, BS: 1
- Seq Length: 128K, BS: 1
|
Meta-Llama-3.3-70B-Instruct | 70b-3dot3-ss-4-8-16-32-64-128k | | ViewTarget Models: Meta-Llama-3.3-70B-Instruct- Seq Length: 4K, BS: 2, 4, 8, 16, 32
- Seq Length: 8K, BS: 2, 4, 8, 16, 32
- Seq Length: 16K, BS: 1, 2, 4
- Seq Length: 32K, BS: 1, 2, 4
- Seq Length: 64K, BS: 1, 2, 4
- Seq Length: 128K, BS: 1
Draft Models: Meta-Llama-3.2-1B-Instruct- Seq Length: 4K, BS: 2, 4, 8, 16, 32
- Seq Length: 8K, BS: 2, 4, 8, 16, 32
- Seq Length: 16K, BS: 1, 2, 4
- Seq Length: 32K, BS: 1, 2, 4
- Seq Length: 64K, BS: 1, 2, 4; private: true
- Seq Length: 128K, BS: 1; private: true
|
MiniMax-M2.5 | - dyt-minimax-m2p5-32k
- dyt-minimax-m2p5-32-160k
| MiniMax-M2.5 の構成のみを含む単一モデルバンドル。- dyt-minimax-m2p5-32k は、中程度のシーケンス長と高バッチング向き。
- dyt-minimax-m2p5-32-160k は、より長いシーケンス長と低バッチング向き
| View- dyt-minimax-m2p5-32k
- Seq Length: 4K-32K, BS: 2, 4, 6, 8
- dyt-minimax-m2p5-32-160k
- Seq Length: 32K, BS: 2
- Seq Length: 160K, BS: 2
|
Mistral-Large-3-675B-Instruct-2512 § | mistral-large-3-fp8-8k | Mistral-Large-3-675B-Instruct-2512 の構成のみを含む単一モデルバンドル。- プレビューモデル – テキストのみ。
| ViewMistral-Large-3-675B-Instruct-2512
|
Qwen3-235B-A22B-Instruct-2507 | dyt-qwen3-235b-32-128k | Qwen3-235B-A22B-Instruct-2507 の構成のみを含む単一モデルバンドル。 | ViewQwen3-235B-A22B-Instruct-2507- Seq Length: 32K, BS: 2, 4, 6, 8
- Seq Length: 128K, BS: 2
|
Whisper-Large-v3 /
Qwen3-32B | qwen3-32b-whisper-e5-mistral | | ViewE5-Mistral-7B-Instruct- Seq Length: 4K, BS: 1, 4, 8, 16, 32
Qwen3-32B- Seq Length: 8K, BS: 1, 4
- Seq Length: 16K, BS: 1
- Seq Length: 32K, BS: 1, 2
Whisper-Large-v3
|
