Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Qwen (Alibaba)

Qwen3-32B32B

Benchmarkprofil und veröffentlichte Ergebnisse.

Dense32B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

Generation117,2 tok/s
Min 0,1Ø 159,1Max 717,6
Unter dem Durchschnitt · 361 Systeme im Feld
Prefill1.964 tok/s
Min 39Ø 5.819Max 52.503
Unter dem Durchschnitt · 361 Systeme im Feld
Time to First Token2.271 ms
Min 156Ø 18.353Max 354.928
Ueber dem Durchschnitt · 361 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

1291231171111061.4041.4641.5231.583Prefill (tok/s)Generation (tok/s)AMD Radeon RX 7900 XTX - 117,2 tok/s Generation, 1.494 tok/s Prefill, TTFT 8.453 ms (3 Laufe)AMD Radeon RX 7900 XTX
AMD Radeon RX 7900 XTX 117,2 tok/s

CPUnach Prozessor

1291231171111061.4041.4641.5231.583Prefill (tok/s)Generation (tok/s)Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz - 117,2 tok/s Generation, 1.494 tok/s Prefill, TTFT 8.453 ms (3 Laufe)Intel(R) Xeon(R) CPU ...
Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz 117,2 tok/s

ENGnach Engine

1291231171111061.4041.4641.5231.583Prefill (tok/s)Generation (tok/s)llama.cpp - 117,2 tok/s Generation, 1.494 tok/s Prefill, TTFT 8.453 ms (3 Laufe)llama.cpp
llama.cpp 117,2 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1Qwen3-32B32BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
117,23 tok/s TG
Prefill 1.964 · TTFT 14.388 ms
10×2x AMD Radeon RX 7900 XTX i4x Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz · 504 GB RAMllama.cppgodclawQ4_K_M
2Qwen3-32B32BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
64,31 tok/s TG
Prefill 1.441 · TTFT 8.702 ms
5×2x AMD Radeon RX 7900 XTX i4x Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz · 504 GB RAMllama.cppgodclawQ4_K_M
3Qwen3-32B32BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
28,37 tok/s TG
Prefill 1.075 · TTFT 2.271 ms
1×2x AMD Radeon RX 7900 XTX i4x Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz · 504 GB RAMllama.cppgodclawQ4_K_M
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.