Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Beta
Qwen (Alibaba)

Qwen2.5-Coder-32B-Instruct

Performancebenchmark · gemessen am 23.07.2026 13:56

Benchmark-IDrun-20260723-142107-88d903
Timebench 3 - Kombi (Prefill + Generation)Dense32BRuntime: godclaw
ℹ
Zur Einordnung: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.
Generation20,64tok/s
Prefill517,16tok/s
Time to First Token24.224,00ms
Gesamtdauer54,53s
Concurrency5parallel
Einordnung im Feld
221von 305 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s)

Dieser Lauf ist besser als 28 % aller vergleichbaren Systeme.
Generation 20,6 tok/s
-76 % vs Ø 87,0
Prefill 517,2 tok/s
-84 % vs Ø 3.212,9
Time to First Token 24.224 ms
+9 % vs Ø 22.143
Verteilung im Feld0 – 1.295 tok/s
Ø 87 Median Dieser Lauf

Wie schlägt sich dieser Benchmark?

Hardware

GPU: AMD Radeon 8060S Graphics
CPU: 32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
RAM: 31 GB
Mainboard: Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX)

Setup

Runtime: godclaw
Quantisierung: -
Betriebssystem: Ubuntu 24.04.2 LTS (Kernel 6.17.0-40-generic)
Treiber: ROCm 7.2.0
Modell: Qwen2.5-Coder-32B-Instruct

Alle Benchmarks dieses Modells Zum Leaderboard

Modell-Vergleich

Qwen2.5-Coder-32B-Instruct auf verschiedener Hardware

Alle veroeffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

78,060,041,923,95,801.3262.6523.978Prefill (tok/s)Generation (tok/s)AMD Radeon AI PRO R9700 - 63,2 tok/s Generation, 3.283 tok/s Prefill, TTFT 2.374 ms (14 Laufe)AMD Radeon AI PRO R97...AMD Radeon 8060S Graphics - 20,6 tok/s Generation, 518 tok/s Prefill, TTFT 24.112 ms (3 Laufe) | DIESER LAUF★ AMD Radeon 8060S Grap...
AMD Radeon AI PRO R9700 63,2 tok/s★ AMD Radeon 8060S Graphics 20,6 tok/s dieser Lauf

CPUnach Prozessor

78,060,041,923,95,801.3262.6523.978Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 7955WX 16-Cores - 63,2 tok/s Generation, 3.283 tok/s Prefill, TTFT 2.374 ms (14 Laufe)AMD Ryzen Threadrippe...AMD RYZEN AI MAX+ 395 w/ Radeon 8060S - 20,6 tok/s Generation, 518 tok/s Prefill, TTFT 24.112 ms (3 Laufe) | DIESER LAUF★ AMD RYZEN AI MAX+ 395...
AMD Ryzen Threadripper PRO 7955WX 16-Cores 63,2 tok/s★ AMD RYZEN AI MAX+ 395 w/ Radeon 8060S 20,6 tok/s dieser Lauf

MBnach Mainboard

78,060,041,923,95,801.3262.6523.978Prefill (tok/s)Generation (tok/s)ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE - 63,2 tok/s Generation, 3.283 tok/s Prefill, TTFT 2.374 ms (14 Laufe)ASUSTeK COMPUTER INC....Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) - 20,6 tok/s Generation, 518 tok/s Prefill, TTFT 24.112 ms (3 Laufe) | DIESER LAUF★ Meigao Innovation Tec...
ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 63,2 tok/s★ Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) 20,6 tok/s dieser Lauf

ENGnach Engine

80,260,140,120,00,002.1674.3346.501Prefill (tok/s)Generation (tok/s)llama.cpp - 63,2 tok/s Generation, 1.757 tok/s Prefill, TTFT 3.800 ms (8 Laufe)llama.cppunbekannt - 20,6 tok/s Generation, 518 tok/s Prefill, TTFT 24.112 ms (3 Laufe)unbekanntvLLM - 9,9 tok/s Generation, 5.318 tok/s Prefill, TTFT 472 ms (6 Laufe)vLLM
llama.cpp 63,2 tok/sunbekannt 20,6 tok/svLLM 9,9 tok/s

DRVnach Treiber

78,060,041,923,95,801.3262.6523.978Prefill (tok/s)Generation (tok/s)AMD 7.0.0-27-generic - 63,2 tok/s Generation, 3.283 tok/s Prefill, TTFT 2.374 ms (14 Laufe)AMD 7.0.0-27-genericROCm 7.2.0 - 20,6 tok/s Generation, 518 tok/s Prefill, TTFT 24.112 ms (3 Laufe) | DIESER LAUF★ ROCm 7.2.0
AMD 7.0.0-27-generic 63,2 tok/s★ ROCm 7.2.0 20,6 tok/s dieser Lauf