Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Anmelden Registrieren
Beta
Qwen (Alibaba)

Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30B

Benchmarkprofil und veröffentlichte Ergebnisse.

MoE30B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

AMD Radeon AI PRO R9700Alle GPUs
Generation233,4 tok/s
Min 0,0Ø 77,4Max 667,0
Ueber dem Durchschnitt · 978 Systeme im Feld
Prefill7.121 tok/s
Min 4Ø 2.302Max 35.719
Ueber dem Durchschnitt · 978 Systeme im Feld
Time to First Token750 ms
Min 31Ø 57.832Max 535.235
Ueber dem Durchschnitt · 976 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

2622412212001794.1124.5615.0095.458Prefill (tok/s)Generation (tok/s)AMD Radeon AI PRO R9700 - 233,4 tok/s Generation, 5.057 tok/s Prefill, TTFT 2.646 ms (3 Laufe)AMD Radeon AI PRO R97...AMD Radeon RX 7900 XTX - 207,9 tok/s Generation, 4.513 tok/s Prefill, TTFT 2.485 ms (3 Laufe)AMD Radeon RX 7900 XTX
AMD Radeon AI PRO R9700 233,4 tok/sAMD Radeon RX 7900 XTX 207,9 tok/s

CPUnach Prozessor

2622412212001794.1124.5615.0095.458Prefill (tok/s)Generation (tok/s)AMD Ryzen 3 3100 4-Core Processor - 233,4 tok/s Generation, 5.057 tok/s Prefill, TTFT 2.646 ms (3 Laufe)AMD Ryzen 3 3100 4-Co...AMD Ryzen Threadripper PRO 3955WX 16-Cores - 207,9 tok/s Generation, 4.513 tok/s Prefill, TTFT 2.485 ms (3 Laufe)AMD Ryzen Threadrippe...
AMD Ryzen 3 3100 4-Core Processor 233,4 tok/sAMD Ryzen Threadripper PRO 3955WX 16-Cores 207,9 tok/s

ENGnach Engine

2572452332222104.4984.6894.8815.072Prefill (tok/s)Generation (tok/s)llama.cpp - 233,4 tok/s Generation, 4.785 tok/s Prefill, TTFT 2.566 ms (6 Laufe)llama.cpp
llama.cpp 233,4 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
233,40 tok/s TG
Prefill 7.121 · TTFT 4.462 ms
10×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_MDetails →
2Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
207,89 tok/s TG
Prefill 6.462 · TTFT 4.062 ms
10×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 189 GB RAMllama.cppgodclawQ4_K_MDetails →
3Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
188,69 tok/s TG
Prefill 4.792 · TTFT 2.726 ms
5×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_MDetails →
4Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
157,77 tok/s TG
Prefill 4.563 · TTFT 2.532 ms
5×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 189 GB RAMllama.cppgodclawQ4_K_MDetails →
5Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
94,91 tok/s TG
Prefill 3.258 · TTFT 750 ms
1×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_MDetails →
6Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30BQwen (Alibaba) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
66,48 tok/s TG
Prefill 2.514 · TTFT 862 ms
1×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 189 GB RAMllama.cppgodclawQ4_K_MDetails →
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.