Contributed byMario AlkaNVIDIA Nemotron-Cascade-2-30B-A3B
Harness benchmark · measured on 29.09.2026 09:41
Benchmark-ID
run-20260929-091748-b70591Decision-Benchmark V 1.0MoE30BRuntime: vllm
ℹ
Public note: 200 identische synthetische Entscheidungsfragen; 100 Noul,100 Choice. 1 Punkt pro exakter Antwort; Noul>=0.5. Concurrency1, keine Retries. Gesamte HTTP-Antwortzeit inkl. erster Anfrage, kein TTFT. Richtig 159/200. Mittel 105.127 ms; Median 103.528 ms; P95 126.009 ms. Kein allgemeiner Intelligenztest. Historische Messung; weitere Modelle teils gleichzeitig geladen.
Points159,00von 200,00
Points rate79,50%
Tasks passed159von 200
Total duration21,03s
Ranking in the field
1of 1 systems
Harness benchmark · Primary metric: Score rate (%)
This run is better than 100 % of all comparable systems.
Score rate
80 %
+0 % vs Ø 79,5
Tasks passed
159
+0 % vs Ø 159,0
Total duration
21,0 s
+0 % vs Ø 21,0
Wie schlägt sich dieser Benchmark mit anderen Modellen?
Hardware
GPU: NVIDIA GeForce RTX 3090 · 24 GB VRAM
CPU: AMD Ryzen 5 5600X 6-Core Processor
RAM: 31 GB
Mainboard: ASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING
Setup
Runtime: vllm
Quantization: -
Model: Nemotron-Cascade-2-30B-A3B
Aufgaben (200)
| Task | Status | Points | Duration |
|---|---|---|---|
| 001 - Supportkategorie | passed | 1 / 1 | 0,19 s |
| 002 - Dienststatus | passed | 1 / 1 | 0,10 s |
| 003 - Regelanwendung | passed | 1 / 1 | 0,09 s |
| 004 - Spracherkennung | passed | 1 / 1 | 0,09 s |
| 005 - Supportkategorie | passed | 1 / 1 | 0,11 s |
| 006 - Dienststatus | passed | 1 / 1 | 0,09 s |
| 007 - Zahlenvergleich | failed | 0 / 1 | 0,09 s |
| 008 - Zeitstatus | passed | 1 / 1 | 0,08 s |
| 009 - Spracherkennung | passed | 1 / 1 | 0,09 s |
| 010 - Prioritaetsregel | passed | 1 / 1 | 0,09 s |
| 011 - Zahlungsstatus | failed | 0 / 1 | 0,09 s |
| 012 - Spracherkennung | failed | 0 / 1 | 0,09 s |
| 013 - Regelanwendung | passed | 1 / 1 | 0,09 s |
| 014 - Zeitstatus | passed | 1 / 1 | 0,09 s |
| 015 - Dienststatus | passed | 1 / 1 | 0,11 s |
| 016 - Zahlungsstatus | passed | 1 / 1 | 0,09 s |
| 017 - GroessteZahl | passed | 1 / 1 | 0,12 s |
| 018 - Regelanwendung | passed | 1 / 1 | 0,09 s |
| 019 - Zahlenvergleich | failed | 0 / 1 | 0,09 s |
| 020 - Dateiexistenz | failed | 0 / 1 | 0,09 s |
| 021 - Zeitstatus | passed | 1 / 1 | 0,09 s |
| 022 - Zahlungsstatus | passed | 1 / 1 | 0,09 s |
| 023 - Zeitstatus | passed | 1 / 1 | 0,09 s |
| 024 - Prioritaetsregel | passed | 1 / 1 | 0,09 s |
| 025 - Regelanwendung | passed | 1 / 1 | 0,09 s |
| 026 - Spracherkennung | passed | 1 / 1 | 0,09 s |
| 027 - Prioritaetsregel | failed | 0 / 1 | 0,09 s |
| 028 - Dateiexistenz | passed | 1 / 1 | 0,09 s |
| 029 - GroessteZahl | passed | 1 / 1 | 0,11 s |
| 030 - GroessteZahl | passed | 1 / 1 | 0,10 s |
| 031 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 032 - GroessteZahl | passed | 1 / 1 | 0,10 s |
| 033 - GroessteZahl | passed | 1 / 1 | 0,10 s |
| 034 - Prioritaetsregel | passed | 1 / 1 | 0,10 s |
| 035 - Prioritaetsregel | passed | 1 / 1 | 0,10 s |
| 036 - Zahlungsstatus | passed | 1 / 1 | 0,10 s |
| 037 - Spracherkennung | passed | 1 / 1 | 0,10 s |
| 038 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 039 - Zahlungsstatus | failed | 0 / 1 | 0,11 s |
| 040 - Dateiexistenz | passed | 1 / 1 | 0,10 s |
| 041 - Regelanwendung | passed | 1 / 1 | 0,11 s |
| 042 - Dienststatus | passed | 1 / 1 | 0,11 s |
| 043 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 044 - Supportkategorie | passed | 1 / 1 | 0,12 s |
| 045 - Zahlenvergleich | failed | 0 / 1 | 0,11 s |
| 046 - Zahlungsstatus | failed | 0 / 1 | 0,11 s |
| 047 - Prioritaetsregel | failed | 0 / 1 | 0,11 s |
| 048 - Zahlenvergleich | failed | 0 / 1 | 0,10 s |
| 049 - Supportkategorie | passed | 1 / 1 | 0,11 s |
| 050 - Supportkategorie | passed | 1 / 1 | 0,12 s |
| 051 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 052 - Prioritaetsregel | failed | 0 / 1 | 0,10 s |
| 053 - Dateiexistenz | passed | 1 / 1 | 0,09 s |
| 054 - Zahlenvergleich | failed | 0 / 1 | 0,09 s |
| 055 - Zahlenvergleich | failed | 0 / 1 | 0,09 s |
| 056 - Dienststatus | passed | 1 / 1 | 0,10 s |
| 057 - Dienststatus | passed | 1 / 1 | 0,10 s |
| 058 - Dienststatus | passed | 1 / 1 | 0,11 s |
| 059 - Zahlungsstatus | passed | 1 / 1 | 0,10 s |
| 060 - Zahlenvergleich | passed | 1 / 1 | 0,10 s |
| 061 - Zahlungsstatus | passed | 1 / 1 | 0,10 s |
| 062 - Dateiexistenz | passed | 1 / 1 | 0,11 s |
| 063 - Prioritaetsregel | failed | 0 / 1 | 0,11 s |
| 064 - GroessteZahl | passed | 1 / 1 | 0,11 s |
| 065 - Supportkategorie | passed | 1 / 1 | 0,11 s |
| 066 - Dienststatus | passed | 1 / 1 | 0,11 s |
| 067 - Spracherkennung | passed | 1 / 1 | 0,10 s |
| 068 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 069 - Supportkategorie | passed | 1 / 1 | 0,11 s |
| 070 - Dienststatus | passed | 1 / 1 | 0,11 s |
| 071 - Dateiexistenz | passed | 1 / 1 | 0,10 s |
| 072 - GroessteZahl | passed | 1 / 1 | 0,11 s |
| 073 - Zahlungsstatus | failed | 0 / 1 | 0,12 s |
| 074 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 075 - Prioritaetsregel | failed | 0 / 1 | 0,11 s |
| 076 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 077 - Spracherkennung | failed | 0 / 1 | 0,11 s |
| 078 - Zahlungsstatus | failed | 0 / 1 | 0,10 s |
| 079 - Regelanwendung | passed | 1 / 1 | 0,11 s |
| 080 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 081 - Prioritaetsregel | failed | 0 / 1 | 0,10 s |
| 082 - Dienststatus | passed | 1 / 1 | 0,10 s |
| 083 - Zahlenvergleich | passed | 1 / 1 | 0,10 s |
| 084 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 085 - Zahlungsstatus | passed | 1 / 1 | 0,09 s |
| 086 - Dateiexistenz | passed | 1 / 1 | 0,10 s |
| 087 - Spracherkennung | failed | 0 / 1 | 0,10 s |
| 088 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 089 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 090 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 091 - Spracherkennung | failed | 0 / 1 | 0,10 s |
| 092 - Supportkategorie | passed | 1 / 1 | 0,11 s |
| 093 - Dienststatus | passed | 1 / 1 | 0,10 s |
| 094 - Zeitstatus | passed | 1 / 1 | 0,11 s |
| 095 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 096 - Dienststatus | passed | 1 / 1 | 0,11 s |
| 097 - Zahlungsstatus | failed | 0 / 1 | 0,10 s |
| 098 - Dienststatus | passed | 1 / 1 | 0,12 s |
| 099 - GroessteZahl | passed | 1 / 1 | 0,11 s |
| 100 - Dateiexistenz | passed | 1 / 1 | 0,10 s |
| 101 - Spracherkennung | passed | 1 / 1 | 0,11 s |
| 102 - Prioritaetsregel | passed | 1 / 1 | 0,11 s |
| 103 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 104 - Zahlungsstatus | failed | 0 / 1 | 0,08 s |
| 105 - GroessteZahl | passed | 1 / 1 | 0,09 s |
| 106 - Dienststatus | passed | 1 / 1 | 0,10 s |
| 107 - Dateiexistenz | failed | 0 / 1 | 0,08 s |
| 108 - Zahlenvergleich | passed | 1 / 1 | 0,08 s |
| 109 - Prioritaetsregel | passed | 1 / 1 | 0,09 s |
| 110 - Regelanwendung | passed | 1 / 1 | 0,09 s |
| 111 - Prioritaetsregel | failed | 0 / 1 | 0,10 s |
| 112 - Zahlenvergleich | failed | 0 / 1 | 0,09 s |
| 113 - GroessteZahl | passed | 1 / 1 | 0,10 s |
| 114 - Zahlenvergleich | passed | 1 / 1 | 0,09 s |
| 115 - Zeitstatus | passed | 1 / 1 | 0,09 s |
| 116 - Spracherkennung | passed | 1 / 1 | 0,09 s |
| 117 - Zahlenvergleich | passed | 1 / 1 | 0,11 s |
| 118 - Dateiexistenz | passed | 1 / 1 | 0,09 s |
| 119 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 120 - Prioritaetsregel | failed | 0 / 1 | 0,10 s |
| 121 - Zeitstatus | passed | 1 / 1 | 0,12 s |
| 122 - Prioritaetsregel | passed | 1 / 1 | 0,10 s |
| 123 - Spracherkennung | passed | 1 / 1 | 0,10 s |
| 124 - GroessteZahl | passed | 1 / 1 | 0,11 s |
| 125 - Spracherkennung | passed | 1 / 1 | 0,11 s |
| 126 - Dateiexistenz | passed | 1 / 1 | 0,09 s |
| 127 - Supportkategorie | passed | 1 / 1 | 0,10 s |
| 128 - Supportkategorie | passed | 1 / 1 | 0,10 s |
| 129 - Supportkategorie | passed | 1 / 1 | 0,10 s |
| 130 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 131 - Dateiexistenz | passed | 1 / 1 | 0,09 s |
| 132 - GroessteZahl | passed | 1 / 1 | 0,10 s |
| 133 - Dateiexistenz | passed | 1 / 1 | 0,09 s |
| 134 - Regelanwendung | passed | 1 / 1 | 0,10 s |
| 135 - Zeitstatus | passed | 1 / 1 | 0,09 s |
| 136 - Dateiexistenz | passed | 1 / 1 | 0,09 s |
| 137 - Zahlenvergleich | passed | 1 / 1 | 0,09 s |
| 138 - Spracherkennung | passed | 1 / 1 | 0,10 s |
| 139 - Zahlungsstatus | passed | 1 / 1 | 0,09 s |
| 140 - Spracherkennung | passed | 1 / 1 | 0,11 s |
| 141 - Supportkategorie | passed | 1 / 1 | 0,12 s |
| 142 - Zahlenvergleich | passed | 1 / 1 | 0,13 s |
| 143 - Spracherkennung | failed | 0 / 1 | 0,10 s |
| 144 - Dienststatus | passed | 1 / 1 | 0,12 s |
| 145 - Zahlenvergleich | failed | 0 / 1 | 0,10 s |
| 146 - Supportkategorie | passed | 1 / 1 | 0,11 s |
| 147 - Regelanwendung | passed | 1 / 1 | 0,11 s |
| 148 - Zahlenvergleich | passed | 1 / 1 | 0,10 s |
| 149 - Dienststatus | passed | 1 / 1 | 0,11 s |
| 150 - GroessteZahl | passed | 1 / 1 | 0,11 s |
| 151 - Zeitstatus | passed | 1 / 1 | 0,11 s |
| 152 - Spracherkennung | failed | 0 / 1 | 0,11 s |
| 153 - Supportkategorie | passed | 1 / 1 | 0,12 s |
| 154 - Zahlenvergleich | passed | 1 / 1 | 0,10 s |
| 155 - Zeitstatus | passed | 1 / 1 | 0,10 s |
| 156 - Dateiexistenz | failed | 0 / 1 | 0,11 s |
| 157 - Supportkategorie | passed | 1 / 1 | 0,12 s |
| 158 - Prioritaetsregel | passed | 1 / 1 | 0,12 s |
| 159 - Zahlenvergleich | passed | 1 / 1 | 0,10 s |
| 160 - Dateiexistenz | failed | 0 / 1 | 0,11 s |
| 161 - Zahlungsstatus | passed | 1 / 1 | 0,11 s |
| 162 - Zahlungsstatus | failed | 0 / 1 | 0,12 s |
| 163 - Prioritaetsregel | failed | 0 / 1 | 0,14 s |
| 164 - Dienststatus | passed | 1 / 1 | 0,13 s |
| 165 - Supportkategorie | passed | 1 / 1 | 0,13 s |
| 166 - Spracherkennung | failed | 0 / 1 | 0,12 s |
| 167 - Dateiexistenz | passed | 1 / 1 | 0,12 s |
| 168 - GroessteZahl | passed | 1 / 1 | 0,13 s |
| 169 - Zahlungsstatus | passed | 1 / 1 | 0,12 s |
| 170 - Spracherkennung | passed | 1 / 1 | 0,12 s |
| 171 - GroessteZahl | passed | 1 / 1 | 0,13 s |
| 172 - Regelanwendung | passed | 1 / 1 | 0,12 s |
| 173 - GroessteZahl | passed | 1 / 1 | 0,12 s |
| 174 - GroessteZahl | passed | 1 / 1 | 0,12 s |
| 175 - Prioritaetsregel | passed | 1 / 1 | 0,13 s |
| 176 - Dateiexistenz | passed | 1 / 1 | 0,14 s |
| 177 - Supportkategorie | passed | 1 / 1 | 0,14 s |
| 178 - Dateiexistenz | passed | 1 / 1 | 0,12 s |
| 179 - Prioritaetsregel | passed | 1 / 1 | 0,13 s |
| 180 - Zeitstatus | passed | 1 / 1 | 0,12 s |
| 181 - Zahlenvergleich | failed | 0 / 1 | 0,13 s |
| 182 - Zahlungsstatus | failed | 0 / 1 | 0,13 s |
| 183 - Zeitstatus | passed | 1 / 1 | 0,12 s |
| 184 - Zahlungsstatus | failed | 0 / 1 | 0,12 s |
| 185 - Zeitstatus | passed | 1 / 1 | 0,13 s |
| 186 - Supportkategorie | passed | 1 / 1 | 0,13 s |
| 187 - Zahlungsstatus | passed | 1 / 1 | 0,12 s |
| 188 - GroessteZahl | passed | 1 / 1 | 0,12 s |
| 189 - Spracherkennung | passed | 1 / 1 | 0,12 s |
| 190 - Dienststatus | passed | 1 / 1 | 0,12 s |
| 191 - Zahlenvergleich | failed | 0 / 1 | 0,11 s |
| 192 - Regelanwendung | passed | 1 / 1 | 0,11 s |
| 193 - Dateiexistenz | passed | 1 / 1 | 0,10 s |
| 194 - GroessteZahl | passed | 1 / 1 | 0,12 s |
| 195 - Prioritaetsregel | failed | 0 / 1 | 0,11 s |
| 196 - Dienststatus | passed | 1 / 1 | 0,12 s |
| 197 - GroessteZahl | passed | 1 / 1 | 0,12 s |
| 198 - Supportkategorie | passed | 1 / 1 | 0,11 s |
| 199 - Dienststatus | passed | 1 / 1 | 0,10 s |
| 200 - Supportkategorie | passed | 1 / 1 | 0,10 s |
Configuration
# LLM-Benchmark Konfiguration
# Modell : Nemotron-Cascade-2-30B-A3B
# Engine : vLLM
# Run-ID : run-20260929-091748-b70591
# GPU : NVIDIA GeForce RTX 3090
# CPU : AMD Ryzen 5 5600X 6-Core Processor
# RAM : 31 GB
bench@llm-benchmark:~$ vllm serve \
--model Nemotron-Cascade-2-30B-A3B \
--served-model-name Nemotron-Cascade-2-30B-A3B \
--quantization AWQ
| Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind. | vllm |
| Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen. | Nemotron-Cascade-2-30B-A3B |
| Alias?Anzeigename des Modells nach aussen (served model name), unabhaengig vom Dateinamen. | Nemotron-Cascade-2-30B-A3B |
| Quantisierung?Quantisierungsverfahren der Gewichte (z.B. awq, gptq, fp8, bitsandbytes). Verkleinert das Modell und spart VRAM, kann die Genauigkeit leicht senken. Leer = keine zusaetzliche Quantisierung. | AWQ |
| execution_type | local |
Anzeige
Model comparison
Nemotron-Cascade-2-30B-A3B on various hardware
All published performance runs of this model – each bubble a variant: position = prefill (X) × generation (Y), bubble size = number of runs. Closer to the top right = faster. ★ Marked gold = this benchmark.
GPUby graphics card
NVIDIA RTX PRO 6000 Blackwell Workstation Edition 1.768,1 tok/sNVIDIA GeForce RTX 5090 1.719,2 tok/sNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 1.655,2 tok/sNVIDIA GeForce RTX 3090 Ti 897,5 tok/sNVIDIA RTX A6000 723,7 tok/sAMD Radeon 8060S Graphics 326,9 tok/sAMD Radeon AI PRO R9700 295,2 tok/sNVIDIA GeForce RTX 5070 Ti 262,4 tok/sNVIDIA GB10 (DGX Spark) 148,8 tok/sCPU-only 5,9 tok/s
CPUby processor
AMD Ryzen 9 9950X 16-Core Processor 1.768,1 tok/sAMD Ryzen 7 5800X3D 8-Core Processor 1.719,2 tok/sAMD Ryzen Threadripper PRO 9965WX 24-Cores 1.655,2 tok/sAMD Ryzen 9 8945HX with Radeon Graphics 897,5 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 723,7 tok/sAMD RYZEN AI MAX+ 395 w/ Radeon 8060S 326,9 tok/sAMD Ryzen 3 3100 4-Core Processor 295,2 tok/sAMD Ryzen Threadripper PRO 5975WX 32-Cores 262,4 tok/sAMD Ryzen 9 7945HX with Radeon Graphics 219,6 tok/sNVIDIA Grace 148,8 tok/sIntel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz 5,9 tok/s
MBby mainboard
ASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 1.768,1 tok/s★ ASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 1.719,2 tok/s this runASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 1.655,2 tok/sMeigao Innovation Technology (Shen Zhen) Co., Ltd DRFXL (MotherBoard Series) 897,5 tok/sBosgame AXB35-02 (BeyondMax Series) 326,9 tok/sASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING 295,2 tok/sASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 262,4 tok/sShenzhen Meigao Electronic Equipment Co.,Ltd DRFXI (MotherBoard Series) 219,6 tok/sASUSTeK COMPUTER INC. GX10 148,8 tok/sDell Inc. PowerEdge R820 5,9 tok/s
DRVby driver
unbekannt 1.768,1 tok/sNVIDIA 590.48.01 / CUDA 13.1 148,8 tok/s
Contributed by
Mario Alka Administrator
@marioalka
Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.
Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.