Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
NVIDIA

OpenReasoning-Nemotron-32B

Performancebenchmark · gemessen am 23.07.2026 14:08

Benchmark-IDrun-20260723-142108-40e184
Timebench 3 - Kombi (Prefill + Generation)Dense32BRuntime: godclaw
Zur Einordnung: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.
Generation10,44tok/s
Prefill342,41tok/s
Time to First Token6.343,00ms
Gesamtdauer19,00s
Concurrency1parallel
Einordnung im Feld
250von 305 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s)

Dieser Lauf ist besser als 18 % aller vergleichbaren Systeme.
Generation 10,4 tok/s
-88 % vs Ø 87,0
Prefill 342,4 tok/s
-89 % vs Ø 3.212,9
Time to First Token 6.343 ms
-71 % vs Ø 22.143
Verteilung im Feld0 – 1.295 tok/s
Ø 87 Median Dieser Lauf

Wie schlägt sich dieser Benchmark?

Alle Benchmarks dieses Modells Zum Leaderboard

Modell-Vergleich

OpenReasoning-Nemotron-32B auf verschiedener Hardware

Alle veroeffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

83,462,541,720,80,001.2162.4313.647Prefill (tok/s)Generation (tok/s)AMD Radeon AI PRO R9700 - 64,3 tok/s Generation, 2.942 tok/s Prefill, TTFT 4.323 ms (3 Laufe)AMD Radeon AI PRO R97...CPU-only - 1,1 tok/s Generation, 8 tok/s Prefill, TTFT 266.668 ms (1 Lauf)CPU-onlyAMD Radeon 8060S Graphics - 21,1 tok/s Generation, 516 tok/s Prefill, TTFT 24.111 ms (3 Laufe) | DIESER LAUF★ AMD Radeon 8060S Grap...
AMD Radeon AI PRO R9700 64,3 tok/s★ AMD Radeon 8060S Graphics 21,1 tok/s dieser LaufCPU-only 1,1 tok/s

CPUnach Prozessor

83,462,541,720,80,001.2162.4313.647Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 7955WX 16-Cores - 64,3 tok/s Generation, 2.942 tok/s Prefill, TTFT 4.323 ms (3 Laufe)AMD Ryzen Threadrippe...Intel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz - 1,1 tok/s Generation, 8 tok/s Prefill, TTFT 266.668 ms (1 Lauf)Intel(R) Xeon(R) CPU ...AMD RYZEN AI MAX+ 395 w/ Radeon 8060S - 21,1 tok/s Generation, 516 tok/s Prefill, TTFT 24.111 ms (3 Laufe) | DIESER LAUF★ AMD RYZEN AI MAX+ 395...
AMD Ryzen Threadripper PRO 7955WX 16-Cores 64,3 tok/s★ AMD RYZEN AI MAX+ 395 w/ Radeon 8060S 21,1 tok/s dieser LaufIntel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz 1,1 tok/s

MBnach Mainboard

83,462,541,720,80,001.2162.4313.647Prefill (tok/s)Generation (tok/s)ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE - 64,3 tok/s Generation, 2.942 tok/s Prefill, TTFT 4.323 ms (3 Laufe)ASUSTeK COMPUTER INC....Dell Inc. PowerEdge R820 - 1,1 tok/s Generation, 8 tok/s Prefill, TTFT 266.668 ms (1 Lauf)Dell Inc. PowerEdge R...Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) - 21,1 tok/s Generation, 516 tok/s Prefill, TTFT 24.111 ms (3 Laufe) | DIESER LAUF★ Meigao Innovation Tec...
ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 64,3 tok/s★ Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) 21,1 tok/s dieser LaufDell Inc. PowerEdge R820 1,1 tok/s

ENGnach Engine

79,461,042,724,36,0497941.5402.285Prefill (tok/s)Generation (tok/s)llama.cpp - 64,3 tok/s Generation, 1.905 tok/s Prefill, TTFT 64.294 ms (5 Laufe)llama.cppunbekannt - 21,1 tok/s Generation, 429 tok/s Prefill, TTFT 15.251 ms (2 Laufe)unbekannt
llama.cpp 64,3 tok/sunbekannt 21,1 tok/s

DRVnach Treiber

83,462,541,720,80,001.2162.4313.647Prefill (tok/s)Generation (tok/s)AMD 7.0.0-27-generic - 64,3 tok/s Generation, 2.942 tok/s Prefill, TTFT 4.323 ms (3 Laufe)AMD 7.0.0-27-genericunbekannt - 1,1 tok/s Generation, 8 tok/s Prefill, TTFT 266.668 ms (1 Lauf)unbekanntROCm 7.2.0 - 21,1 tok/s Generation, 516 tok/s Prefill, TTFT 24.111 ms (3 Laufe) | DIESER LAUF★ ROCm 7.2.0
AMD 7.0.0-27-generic 64,3 tok/s★ ROCm 7.2.0 21,1 tok/s dieser Laufunbekannt 1,1 tok/s