Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Beta
Qwen (Alibaba)

Qwen3-VL-30B-A3B-Instruct

Performancebenchmark · gemessen am 23.07.2026 13:40

Benchmark-IDrun-20260723-142104-3178c4
Timebench 3 - Kombi (Prefill + Generation)MoE30BRuntime: godclaw
ℹ
Zur Einordnung: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.
Generation102,19tok/s
Prefill2.357,33tok/s
Time to First Token12.337,00ms
Gesamtdauer28,02s
Concurrency10parallel
Einordnung im Feld
71von 305 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s)

Dieser Lauf ist besser als 77 % aller vergleichbaren Systeme.
Generation 102,2 tok/s
+17 % vs Ø 87,0
Prefill 2.357,3 tok/s
-27 % vs Ø 3.212,9
Time to First Token 12.337 ms
-44 % vs Ø 22.143
Verteilung im Feld0 – 1.295 tok/s
Ø 87 Median Dieser Lauf

Wie schlägt sich dieser Benchmark?

Hardware

GPU: AMD Radeon 8060S Graphics
CPU: 32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
RAM: 31 GB
Mainboard: Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX)

Setup

Runtime: godclaw
Quantisierung: -
Betriebssystem: Ubuntu 24.04.2 LTS (Kernel 6.17.0-40-generic)
Treiber: ROCm 7.2.0
Modell: Qwen3-VL-30B-A3B-Instruct

Alle Benchmarks dieses Modells Zum Leaderboard

Modell-Vergleich

Qwen3-VL-30B-A3B-Instruct auf verschiedener Hardware

Alle veroeffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

22318414510666,66942.6944.6946.694Prefill (tok/s)Generation (tok/s)AMD Radeon AI PRO R9700 - 186,9 tok/s Generation, 5.651 tok/s Prefill, TTFT 1.240 ms (9 Laufe)AMD Radeon AI PRO R97...AMD Radeon 8060S Graphics - 102,2 tok/s Generation, 1.737 tok/s Prefill, TTFT 7.134 ms (3 Laufe) | DIESER LAUF★ AMD Radeon 8060S Grap...
AMD Radeon AI PRO R9700 186,9 tok/s★ AMD Radeon 8060S Graphics 102,2 tok/s dieser Lauf

CPUnach Prozessor

22318414510666,66942.6944.6946.694Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 7955WX 16-Cores - 186,9 tok/s Generation, 5.651 tok/s Prefill, TTFT 1.240 ms (9 Laufe)AMD Ryzen Threadrippe...AMD RYZEN AI MAX+ 395 w/ Radeon 8060S - 102,2 tok/s Generation, 1.737 tok/s Prefill, TTFT 7.134 ms (3 Laufe) | DIESER LAUF★ AMD RYZEN AI MAX+ 395...
AMD Ryzen Threadripper PRO 7955WX 16-Cores 186,9 tok/s★ AMD RYZEN AI MAX+ 395 w/ Radeon 8060S 102,2 tok/s dieser Lauf

MBnach Mainboard

22318414510666,66942.6944.6946.694Prefill (tok/s)Generation (tok/s)ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE - 186,9 tok/s Generation, 5.651 tok/s Prefill, TTFT 1.240 ms (9 Laufe)ASUSTeK COMPUTER INC....Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) - 102,2 tok/s Generation, 1.737 tok/s Prefill, TTFT 7.134 ms (3 Laufe) | DIESER LAUF★ Meigao Innovation Tec...
ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 186,9 tok/s★ Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) 102,2 tok/s dieser Lauf

ENGnach Engine

22917912877,527,02.1094.1376.1658.192Prefill (tok/s)Generation (tok/s)unbekannt - 186,9 tok/s Generation, 3.227 tok/s Prefill, TTFT 5.743 ms (5 Laufe)unbekanntllama.cpp - 89,8 tok/s Generation, 3.879 tok/s Prefill, TTFT 668 ms (3 Laufe)llama.cppvLLM - 69,2 tok/s Generation, 7.075 tok/s Prefill, TTFT 459 ms (4 Laufe)vLLM
unbekannt 186,9 tok/sllama.cpp 89,8 tok/svLLM 69,2 tok/s

DRVnach Treiber

22318414510666,66942.6944.6946.694Prefill (tok/s)Generation (tok/s)AMD 7.0.0-27-generic - 186,9 tok/s Generation, 5.651 tok/s Prefill, TTFT 1.240 ms (9 Laufe)AMD 7.0.0-27-genericROCm 7.2.0 - 102,2 tok/s Generation, 1.737 tok/s Prefill, TTFT 7.134 ms (3 Laufe) | DIESER LAUF★ ROCm 7.2.0
AMD 7.0.0-27-generic 186,9 tok/s★ ROCm 7.2.0 102,2 tok/s dieser Lauf