Task	Status	Points	Duration
Antwortzeit Test	passed	5 / 50	28,00 s
Format Test	passed	13 / 80	28,00 s
Dateisystem Setup	passed	55 / 120	27,00 s
Daten Generierung	passed	26 / 150	55,00 s
Parsing + Transformation	passed	20 / 200	105,00 s
Fehlerbehandlung JSON	passed	58 / 150	41,00 s
Python Tool Usage	passed	92 / 220	58,00 s
PHP Tool Usage	passed	70 / 220	68,00 s
Export + Reimport	passed	103 / 240	76,00 s
Archivierung	passed	18 / 180	65,00 s
Hash Berechnung	passed	121 / 200	33,00 s
Textsuche	passed	18 / 180	200,00 s
Idempotenz Test	passed	22 / 220	204,00 s
Rechte Problem	passed	185 / 220	16,00 s
Final JSON	passed	210 / 250	16,00 s
Finale Ausgabe	passed	204 / 300	16,00 s

Configuration

benchmark-konfiguration — run-20260722-161611-b852f3

# LLM-Benchmark Konfiguration # Modell : Qwen3.6-27B # Engine : vLLM # Run-ID : run-20260722-161611-b852f3 # GPU : NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition # CPU : AMD Ryzen 9 9950X 16-Core Processor # RAM : 92 GB bench@llm-benchmark:~$ python \ -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen3.6-27B \ --served-model-name Qwen/Qwen3.6-27B \ --host 0.0.0.0 \ --port 8000 \ --gpu-memory-utilization 0.90 \ --max-model-len 65536 \ --generation-config vllm \ --language-model-only \ --reasoning-parser qwen3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_coder

Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.	vllm
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.	Qwen/Qwen3.6-27B
Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann.	65536
Python-Modul?Startet vLLM als Python-Modul (python -m vllm.entrypoints.openai.api_server). Der folgende Wert ist der Modulname.	vllm.entrypoints.openai.api_server
Modellpfad?Pfad zur GGUF-Modelldatei, die geladen und ausgeliefert wird.	Qwen/Qwen3.6-27B
Alias?Anzeigename des Modells nach aussen (served model name), unabhaengig vom Dateinamen.	Qwen/Qwen3.6-27B
GPU-Speicher?Anteil des GPU-Speichers (0 bis 1), den vLLM belegen darf. 0.92 = 92 %. Hoeher = mehr Platz fuer den KV-Cache (mehr/laengere parallele Anfragen), aber groesseres Risiko fuer 'Out of Memory'.	0.90
Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells.	65536
Generation-Config?Quelle der Default-Sampling-Parameter (auto/vllm oder Pfad). Steuert die vom Modell vorgegebenen Defaults fuer temperature/top_p usw.	vllm
Nur-Sprachmodell?Laedt bei multimodalen Modellen nur den Sprachteil. Spart VRAM, deaktiviert aber Bild-/Audio-Eingabe.	aktiv
Reasoning-Parser?Trennt den Denk-/Reasoning-Teil der Antwort vom eigentlichen Inhalt (z.B. bei Modellen mit <think>-Bloecken).	qwen3
Auto-Tool-Choice?Erlaubt dem Modell, Tools (Function-Calling) selbststaendig auszuwaehlen. MUSS aktiv sein, damit 'tools' im Request akzeptiert werden - sonst lehnt vLLM sie mit HTTP 400 ab.	aktiv
Tool-Parser?Bestimmt, wie vLLM Tool-Aufrufe aus der Modellantwort ausliest (z.B. hermes, mistral, llama3_json). Muss zum Modell passen.	qwen3_coder

All benchmarks of this model To leaderboard

Model comparison

Qwen3.6-27B on various hardware

All published performance runs of this model – each bubble a variant: position = prefill (X) × generation (Y), bubble size = number of runs. Closer to the top right = faster. ★ Marked gold = this benchmark.

GPUby graphics card

NVIDIA RTX PRO 6000 Blackwell Workstation Edition 546,9 tok/sNVIDIA GeForce RTX 5090 532,5 tok/s★ NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 464,1 tok/s this runNVIDIA RTX A6000 431,7 tok/sNVIDIA GeForce RTX 3090 Ti 264,2 tok/sAMD Radeon AI PRO R9700 165,4 tok/sAMD Radeon PRO W7800 48GB 106,8 tok/sNVIDIA GeForce RTX 5070 Ti 57,2 tok/sAMD Radeon 8060S Graphics 36,1 tok/s

CPUby processor

★ AMD Ryzen 9 9950X 16-Core Processor 546,9 tok/s this runAMD Ryzen 7 5800X3D 8-Core Processor 532,5 tok/sAMD Ryzen Threadripper PRO 9965WX 24-Cores 464,1 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 431,7 tok/sAMD Ryzen 9 8945HX with Radeon Graphics 264,2 tok/sAMD Ryzen Threadripper PRO 5975WX 32-Cores 106,8 tok/sAMD RYZEN AI MAX+ 395 w/ Radeon 8060S 36,1 tok/s

MBby mainboard

★ ASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 546,9 tok/s this runASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 532,5 tok/sASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 464,1 tok/sMeigao Innovation Technology (Shen Zhen) Co., Ltd DRFXL (MotherBoard Series) 264,2 tok/sASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 106,8 tok/sBosgame AXB35-02 (BeyondMax Series) 36,1 tok/sunbekannt 28,8 tok/s

ENGby engine

llama.cpp 546,9 tok/s★ vLLM 431,7 tok/s this rununbekannt 28,8 tok/s

DRVby driver

unbekannt 546,9 tok/sNVIDIA 580.159.03 / CUDA 13.0 28,8 tok/s

Contributed by

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.