Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Anmelden Registrieren
Beta
Qwen (Alibaba)

Qwen3-14B14B

Benchmarkprofil und veröffentlichte Ergebnisse.

Dense14B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

AMD Radeon RX 7900 XTXAlle GPUs
Generation280,8 tok/s
Min 9,9Ø 200,6Max 717,6
Ueber dem Durchschnitt · 180 Systeme im Feld
Prefill8.760 tok/s
Min 108Ø 8.088Max 52.503
Ueber dem Durchschnitt · 180 Systeme im Feld
Time to First Token748 ms
Min 156Ø 7.260Max 285.990
Ueber dem Durchschnitt · 180 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

3092952812672534.4404.6294.8175.006Prefill (tok/s)Generation (tok/s)AMD Radeon RX 7900 XTX - 280,8 tok/s Generation, 4.723 tok/s Prefill, TTFT 3.358 ms (6 Laufe)AMD Radeon RX 7900 XTX
AMD Radeon RX 7900 XTX 280,8 tok/s

CPUnach Prozessor

3092952812672534.4404.6294.8175.006Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 3955WX 16-Cores - 280,8 tok/s Generation, 4.723 tok/s Prefill, TTFT 3.358 ms (6 Laufe)AMD Ryzen Threadrippe...
AMD Ryzen Threadripper PRO 3955WX 16-Cores 280,8 tok/s

ENGnach Engine

3272812351891432.0973.8485.5987.349Prefill (tok/s)Generation (tok/s)vLLM - 280,8 tok/s Generation, 6.373 tok/s Prefill, TTFT 2.764 ms (3 Laufe)vLLMllama.cpp - 189,6 tok/s Generation, 3.074 tok/s Prefill, TTFT 3.952 ms (3 Laufe)llama.cpp
vLLM 280,8 tok/sllama.cpp 189,6 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1Qwen3-14B14BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
280,80 tok/s TG
Prefill 8.760 · TTFT 5.247 ms
10×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMvLLMgodclawDetails →
2Qwen3-14B14BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
198,18 tok/s TG
Prefill 7.101 · TTFT 2.296 ms
5×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMvLLMgodclawDetails →
3Qwen3-14B14BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
189,57 tok/s TG
Prefill 4.215 · TTFT 6.476 ms
10×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_MDetails →
4Qwen3-14B14BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
113,91 tok/s TG
Prefill 2.991 · TTFT 4.155 ms
5×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_MDetails →
5Qwen3-14B14BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
47,29 tok/s TG
Prefill 2.015 · TTFT 1.225 ms
1×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_MDetails →
6Qwen3-14B14BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
44,22 tok/s TG
Prefill 3.257 · TTFT 748 ms
1×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMvLLMgodclawDetails →
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.