🎮
Grafikkarte
NVIDIA RTX PRO 6000 Blackwell Workstation Edition
NVIDIA96 GB VRAM
Beste Generation
1.443,9 tok/s
gpt-oss-20b
∅ Generation
722,0 tok/s
Schnitt aus 6 Läufen
Bester Prefill
35.348 tok/s
Prompt-Verarbeitung
Bester TTFT
114 ms
Time to First Token
Beste Harness-Quote
–%
noch kein Harness
🏆
gpt-oss-20b läuft am schnellsten auf dieser GPU · 1.443,9 tok/s
Bester Prefill: 35.348 tok/s · 2 Modelle getestet
Bester Prefill: 35.348 tok/s · 2 Modelle getestet
Top-Modelle
Bester gemessener Durchsatz je Modell auf NVIDIA RTX PRO 6000 Blackwell Workstation Edition – umschaltbar nach Generation, Prefill oder Kombiwert.
Performanceprofil
Durchsatz auf NVIDIA RTX PRO 6000 Blackwell Workstation Edition
Jede Blase steht für ein Modell, eine Engine bzw. eine CPU – Position: Prompt-Verarbeitung (X) × Ausgabe (Y), Blasengröße: Anzahl Messläufe.
MODnach Modell
gpt-oss-20b 1.443,9 tok/sMinistral-3-14B-Reasoning-2512 1.015,7 tok/s
ENGnach Engine
vLLM 1.443,9 tok/s
CPUnach Prozessor
AMD Ryzen 9 9950X 16-Core Processor 1.443,9 tok/s
Durchsatz & Latenz
Im Leaderboard →Performancebenchmark
6 veroeffentlichte Performance-Läufe auf NVIDIA RTX PRO 6000 Blackwell Workstation Edition.
| # | Modell / Hersteller | Messwerte | Parallel | GPU / CPU / RAM | Runtime | ||
|---|---|---|---|---|---|---|---|
| 1 | gpt-oss-20bOpenAI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 1.443,88 tok/s TG Prefill 35.348 · TTFT 560 ms | 10× | NVIDIA RTX PRO 6000 Blackwell Workstation Edition32x AMD Ryzen 9 9950X 16-Core Processor · 92 GB RAM | vLLMgodclaw | Details → | |
| 2 | Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 1.015,69 tok/s TG Prefill 20.061 · TTFT 1.289 ms | 10× | NVIDIA RTX PRO 6000 Blackwell Workstation Edition32x AMD Ryzen 9 9950X 16-Core Processor · 92 GB RAM | vLLMgodclawAWQ | Details → | |
| 3 | gpt-oss-20bOpenAI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 842,94 tok/s TG Prefill 31.098 · TTFT 319 ms | 5× | NVIDIA RTX PRO 6000 Blackwell Workstation Edition32x AMD Ryzen 9 9950X 16-Core Processor · 92 GB RAM | vLLMgodclaw | Details → | |
| 4 | Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 615,82 tok/s TG Prefill 13.999 · TTFT 797 ms | 5× | NVIDIA RTX PRO 6000 Blackwell Workstation Edition32x AMD Ryzen 9 9950X 16-Core Processor · 92 GB RAM | vLLMgodclawAWQ | Details → | |
| 5 | gpt-oss-20bOpenAI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 268,71 tok/s TG Prefill 17.371 · TTFT 114 ms | 1× | NVIDIA RTX PRO 6000 Blackwell Workstation Edition32x AMD Ryzen 9 9950X 16-Core Processor · 92 GB RAM | vLLMgodclaw | Details → | |
| 6 | Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 144,83 tok/s TG Prefill 9.895 · TTFT 217 ms | 1× | NVIDIA RTX PRO 6000 Blackwell Workstation Edition32x AMD Ryzen 9 9950X 16-Core Processor · 92 GB RAM | vLLMgodclawAWQ | Details → |
Agent- & Chat-Bewertung
Im Leaderboard →Harnessbenchmark
0 veroeffentlichte Harness-Läufe auf NVIDIA RTX PRO 6000 Blackwell Workstation Edition.
Noch keine Harnessbenchmarks auf dieser Hardware.