Echte Performance
TTFT, Prefill- und Generation-Token/s statt theoretischer Spitzenwerte.
Performance- und Harnessbenchmarks fuer Modelle, Hardware und Runtimes. Transparent, filterbar und direkt vergleichbar.
SYSTEM vLLM endpoint bereit auf :8000
MODEL Qwen3-32B / FP8 / 32k Kontext
DEMO Interaktive Vorschau eines LLM-Laufs
user> Warte auf Benchmarkstart ...
assistant>
TTFT, Prefill- und Generation-Token/s statt theoretischer Spitzenwerte.
Punkte und Erfolgsquoten aus vollstaendigen Agent- und Chatablaeufen.
Modell, Quantisierung, Runtime und Hardware bleiben an jedem Lauf sichtbar.
Die am haeufigsten getesteten Modelle auf einen Blick.
MoE · 230B
MoE · 26B
Dense · 24B
Dense · 27B
Dense · 32B
Dense · 31B
| # | Modell / Hersteller | Typ | Messwerte | GPU / CPU / RAM | Runtime | Datum |
|---|---|---|---|---|---|---|
| 1 | Gemma-4-26B-A4B-itGoogle | Harnessbenchmark | 90,64 %2.701,00 / 2.980,00 Punkte 16 / 16 Aufgaben · 118,00 s | NVIDIA RTX PRO 6000 Blac...32x AMD Ryzen 9 9950X 16-Core Processor · 1 GB RAM | cli | 22.07.2026 |
| 2 | Devstral-Small-2-24B-Instruct-2512Mistral AI | Harnessbenchmark | 87,15 %2.597,00 / 2.980,00 Punkte 16 / 16 Aufgaben · 165,00 s | AMD GPU32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 1 GB RAM | godclaw | 22.07.2026 |
| 3 | Gemma-4-26B-A4B-itGoogle | Harnessbenchmark | 81,88 %2.440,00 / 2.980,00 Punkte 16 / 16 Aufgaben · 218,00 s | AMD GPU32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 5 GB RAM | cli | 22.07.2026 |
| 4 | MiniMax-M2.5MiniMax | Harnessbenchmark | 81,44 %2.427,00 / 2.980,00 Punkte 16 / 16 Aufgaben · 228,00 s | 3x NVIDIA RTX PRO 6000 Blac...34x AMD Ryzen Threadripper PRO 9965WX 24-Cores · 1 GB RAM | godclaw | 22.07.2026 |
| 5 | Gemma-4-26B-A4B-itGoogle | Harnessbenchmark | 79,97 %2.383,00 / 2.980,00 Punkte 16 / 16 Aufgaben · 245,00 s | AMD GPU32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 5 GB RAM | cli | 22.07.2026 |