ℹ

For context: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.

Points235,00von 1.760,00

Points rate13,35%

Tasks passed15von 15

Total duration1.783,00s

Ranking in the field

This GPU All GPUs

48of 51 systems

Harness benchmark · Primary metric: Score rate (%)

This run is better than 6 % of all comparable systems.

Score rate 13 %

-79 % vs Ø 63,1

Tasks passed 15

-81 % vs Ø 77,1

Total duration 1.783,0 s

+10 % vs Ø 1.623,8

Distribution in the field10 – 100 %

Ø 63 Median Dieser Lauf

Wie schlägt sich dieser Benchmark mit anderen Modellen?

Kolibri-1NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-165122-c5dea7

100 %

Qwen3.6-35B-A3B-AWQNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-153935-691df9

100 %

Jev-1.13.0Cloud/API: TypeSafe AI (Hardware unbekannt) · run-20260929-091917-060aae

100 %

Qwen3.6-35B-A3B-AWQNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-091748-cbe456

100 %

Qwen3.8-27B-Uncensored2× 2x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-091747-e13da0

100 %

Open-Jev-27B-v1.1NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-091747-5d8477

100 %

Kolibri-1NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-125923-3f1672

99 %

Qwen3.6-35B-A3B-AWQNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-112249-dba0f2

97 %

Kolibri-1NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-125923-43651d

93 %

Kolibri-1NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-125923-5b5304

91 %

Gemma-4-26B-A4B-itNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260722-161611-05d866

91 %

Devstral-Small-2-24B-Instruct-2512AMD Radeon 8060S Graphics · run-20260722-161611-5f2f86

87 %

Gemma-4-26B-A4B-itAMD Radeon 8060S Graphics · run-20260722-161611-12a767

82 %

MiniMax-M2.53× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260722-161611-f6cfe1

81 %

Qwen2.5-32B-Instruct-AWQ this runAMD Radeon 8060S Graphics · run-20260722-161610-de118a

13 %

Hardware

GPU: AMD Radeon 8060S Graphics
CPU: AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
RAM: 31 GB
Mainboard: Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX)

Setup

Runtime: openclaw_cli
Quantization: -
Model: Qwen2.5-32B-Instruct-AWQ

Aufgaben (15)

Task	Status	Points	Duration
Antwortzeit Test	passed	5 / 50	53,00 s
JSON Direkt Ausgabe	passed	7 / 70	60,00 s
Kurzinhalt Benchmark	passed	6 / 60	56,00 s
Textdatei anlegen	passed	10 / 100	119,00 s
JSON Datei erzeugen	passed	12 / 120	99,00 s
JSON Datei lesen und Feld ausgeben	passed	12 / 120	148,00 s
Komplexeres JSON erzeugen	passed	14 / 140	196,00 s
JSON auswerten Summe	passed	15 / 150	72,00 s
Python Code erzeugen	passed	13 / 130	120,00 s
Python Code ausfuehren	passed	24 / 150	56,00 s
PHP Datei erzeugen	passed	13 / 130	123,00 s
PHP Datei ausfuehren	passed	65 / 150	38,00 s
Markdown Inhalt generieren	passed	11 / 110	316,00 s
Dateiinhalt pruefen	passed	10 / 100	51,00 s
Mehrstufige Verarbeitung	passed	18 / 180	276,00 s

Configuration

benchmark-konfiguration — run-20260722-161610-de118a

# LLM-Benchmark Konfiguration # Modell : Qwen2.5-32B-Instruct-AWQ # Run-ID : run-20260722-161610-de118a # GPU : AMD Radeon 8060S Graphics # CPU : AMD RYZEN AI MAX+ 395 w/ Radeon 8060S # RAM : 31 GB bench@llm-benchmark:~$ cat benchmark.conf execution_type local

execution_type

local

All benchmarks of this model To leaderboard

Model comparison

Qwen2.5-32B-Instruct-AWQ on various hardware

All published performance runs of this model – each bubble a variant: position = prefill (X) × generation (Y), bubble size = number of runs. Closer to the top right = faster. ★ Marked gold = this benchmark.

GPUby graphics card

NVIDIA RTX PRO 6000 Blackwell Workstation Edition 510,3 tok/sNVIDIA GeForce RTX 5090 473,9 tok/sNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 412,6 tok/sNVIDIA RTX A6000 362,6 tok/sNVIDIA GeForce RTX 3090 Ti 223,8 tok/sAMD Radeon RX 7900 XTX 179,0 tok/sAMD Radeon AI PRO R9700 116,3 tok/sAMD Radeon PRO W7900 Dual Slot 89,6 tok/sAMD Radeon PRO W7800 48GB 69,9 tok/sNVIDIA GeForce RTX 5070 Ti 45,0 tok/s

CPUby processor

AMD Ryzen 9 9950X 16-Core Processor 510,3 tok/sAMD Ryzen 7 5800X3D 8-Core Processor 473,9 tok/sAMD Ryzen Threadripper PRO 9965WX 24-Cores 412,6 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 362,6 tok/sAMD Ryzen 9 8945HX with Radeon Graphics 223,8 tok/sAMD Ryzen Threadripper PRO 3955WX 16-Cores 179,0 tok/sAMD Ryzen 3 3100 4-Core Processor 116,3 tok/sAMD Ryzen Threadripper PRO 5975WX 32-Cores 89,6 tok/s

MBby mainboard

ASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 510,3 tok/sASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 473,9 tok/sASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 412,6 tok/sMeigao Innovation Technology (Shen Zhen) Co., Ltd DRFXL (MotherBoard Series) 223,8 tok/sASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 179,0 tok/sASUSTeK COMPUTER INC. ROG STRIX X570-F GAMING 116,3 tok/s

ENGby engine

vLLM 510,3 tok/sllama.cpp 474,0 tok/s

DRVby driver

unbekannt 510,3 tok/s

Contributed by

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.