Beigesteuert vonMario AlkaGoogle Gemma-4-26B-A4B-it
Harnessbenchmark · gemessen am 19.07.2026 22:55
Benchmark-ID
run-20260722-161612-4aa240Tool-Parcours Dossier 40 V1.0MoE26BRuntime: godclawQuantisierung: Q8_0
ℹ
Zur Einordnung: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.
Punkte1.489,00von 5.960,00
Punktequote24,98%
Aufgaben bestanden22von 40
Gesamtdauer8.783,00s
Einordnung im Feld
9von 13 Systemen
Harnessbenchmark · Leitmetrik: Punktequote (%)
Dieser Lauf ist besser als 33 % aller vergleichbaren Systeme.
Punktequote
25 %
-50 % vs Ø 50,4
Aufgaben bestanden
22
+7 % vs Ø 20,6
Gesamtdauer
8.783,0 s
+185 % vs Ø 3.076,5
Verteilung im Feld10 – 87 %
Wie schlägt sich dieser Benchmark mit anderen Modellen?
Devstral-Small-2-24B-Instruct-2512AMD Radeon 8060S Graphics · run-20260722-161611-5f2f86
87 %
Gemma-4-26B-A4B-it gleiches ModellAMD Radeon 8060S Graphics · run-20260722-161611-12a767
82 %
Gemma-4-26B-A4B-it gleiches ModellAMD Radeon 8060S Graphics · run-20260722-161611-9b7325
80 %
Gemma-4-26B-A4B-it gleiches ModellAMD Radeon 8060S Graphics · run-20260722-161611-0064a9
76 %
Devstral-Small-2-24B-Instruct-2512AMD Radeon 8060S Graphics · run-20260722-161611-798dcc
76 %
Gemma-4-26B-A4B-it gleiches ModellAMD Radeon 8060S Graphics · run-20260722-161611-78ff78
74 %
Devstral-Small-2-24B-Instruct-2512AMD Radeon 8060S Graphics · run-20260722-161611-23baf9
69 %
Gemma-4-26B-A4B-it gleiches ModellAMD Radeon 8060S Graphics · run-20260722-161611-4b5bb6
30 %
Gemma-4-26B-A4B-it dieser LaufAMD Radeon 8060S Graphics · run-20260722-161612-4aa240
25 %
Devstral-Small-2-24B-Instruct-2512AMD Radeon 8060S Graphics · run-20260722-161612-46dd0c
24 %
Qwen2.5-32B-Instruct-AWQAMD Radeon 8060S Graphics · run-20260722-161610-de118a
13 %
gemma-4-31B-itAMD Radeon 8060S Graphics · run-20260722-161611-227dd8
10 %
Qwen2.5-32B-Instruct-AWQAMD Radeon 8060S Graphics · run-20260722-161610-75ccf8
10 %
Hardware
GPU: AMD Radeon 8060S Graphics
CPU: AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
RAM: 31 GB
Mainboard: Bosgame AXB35-02 (BeyondMax Series)
Setup
Runtime: godclaw
Quantisierung: Q8_0
Modell: Gemma-4-26B-A4B-it
Aufgaben (40)
| Aufgabe | Status | Punkte | Dauer |
|---|---|---|---|
| Arbeitsstruktur anlegen | bestanden | 5 / 50 | 7.216,00 s |
| Startdatei schreiben | bestanden | 6 / 60 | 22,00 s |
| Datei zuruecklesen | bestanden | 11 / 50 | 13,00 s |
| CSV mit Testdaten | bestanden | 44 / 80 | 15,00 s |
| Struktur pruefen | fehlgeschlagen | 0 / 60 | 24,00 s |
| Recherche RAG | bestanden | 15 / 150 | 136,00 s |
| Recherche Hersteller | bestanden | 55 / 120 | 27,00 s |
| Recherche sichern | bestanden | 46 / 100 | 18,00 s |
| Webseite auswerten | bestanden | 85 / 140 | 26,00 s |
| Seite im Browser oeffnen | fehlgeschlagen | 0 / 180 | 14,00 s |
| Modellvergleich | bestanden | 44 / 200 | 65,00 s |
| Quellenliste | bestanden | 58 / 90 | 12,00 s |
| Wissenskategorien sichten | bestanden | 55 / 100 | 15,00 s |
| Wissenseintrag anlegen | fehlgeschlagen | 0 / 220 | 19,00 s |
| Wissenseintrag pruefen | fehlgeschlagen | 0 / 120 | 10,00 s |
| Wissenseintrag ergaenzen | fehlgeschlagen | 0 / 200 | 12,00 s |
| Versionen zaehlen | fehlgeschlagen | 0 / 140 | 10,00 s |
| Wissen durchsuchen | fehlgeschlagen | 0 / 130 | 10,00 s |
| Firma erfassen | bestanden | 18 / 180 | 320,00 s |
| Person verknuepfen | fehlgeschlagen | 0 / 220 | 54,00 s |
| Fakt hinterlegen | fehlgeschlagen | 0 / 160 | 56,00 s |
| Entitaet suchen | fehlgeschlagen | 0 / 140 | 12,00 s |
| Aufgabenliste anlegen | bestanden | 98 / 130 | 11,00 s |
| Aufgaben ergaenzen | bestanden | 127 / 170 | 17,00 s |
| Boards sichten | fehlgeschlagen | 0 / 120 | 9,00 s |
| Board-Aufgabe anlegen | fehlgeschlagen | 0 / 190 | 8,00 s |
| CSV nach JSON | fehlgeschlagen | 0 / 180 | 18,00 s |
| JSON validieren | fehlgeschlagen | 0 / 140 | 12,00 s |
| Defektes JSON reparieren | bestanden | 22 / 220 | 331,00 s |
| Pruefsummen | fehlgeschlagen | 0 / 160 | 22,00 s |
| Volltextsuche | fehlgeschlagen | 0 / 150 | 19,00 s |
| Archiv packen | bestanden | 134 / 170 | 14,00 s |
| Bestandsaufnahme | bestanden | 80 / 120 | 15,00 s |
| Titelbild erzeugen | fehlgeschlagen | 0 / 250 | 12,00 s |
| Bild pruefen | fehlgeschlagen | 0 / 130 | 43,00 s |
| Merken | bestanden | 108 / 150 | 14,00 s |
| Erinnern | bestanden | 98 / 120 | 8,00 s |
| Fachfrage delegieren | bestanden | 60 / 230 | 74,00 s |
| Gesamtbericht | bestanden | 161 / 240 | 33,00 s |
| Abschluss | bestanden | 159 / 200 | 17,00 s |
Konfiguration
# LLM-Benchmark Konfiguration
# Modell : Gemma-4-26B-A4B-it
# Engine : llama.cpp
# Run-ID : run-20260722-161612-4aa240
# GPU : AMD Radeon 8060S Graphics
# CPU : AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
# RAM : 31 GB
bench@llm-benchmark:~$ /home/godcore/llama.cpp/build-rocm/bin/llama-server \
--model /home/godcore/models/gemma4/gemma-4-26B-A4B-it-Q8_0.gguf \
--alias google/gemma-4-26B-A4B-it \
--host 0.0.0.0 \
--port 8000 \
--ctx-size 65536 \
--parallel 2 \
--gpu-layers 999 \
--flash-attn auto \
--cache-type-k q8_0 \
--cache-type-v q8_0 \
--reasoning off \
--jinja
| Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind. | llamacpp |
| Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen. | google/gemma-4-26B-A4B-it |
| Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann. | 65536 |
| Modellpfad?Pfad zur GGUF-Modelldatei, die geladen und ausgeliefert wird. | /home/godcore/models/gemma4/gemma-4-26B-A4B-it-Q8_0.gguf |
| Parallel?Anzahl paralleler Slots/Sequenzen, die der Server gleichzeitig bedient. Der Kontext wird auf die Slots aufgeteilt. | 2 |
| GPU-Layer?Anzahl der auf die GPU ausgelagerten Modell-Layer. Hoeher = mehr VRAM und schneller; der Rest laeuft auf der CPU. 999 = alles auf GPU. | 999 |
| Flash Attention?FlashAttention fuer schnellere und speichersparende Attention. Wert on/off/auto je nach Build. | auto |
| K-Cache-Typ?Datentyp des K-Anteils im KV-Cache (f16/q8_0/q4_0 ...). Quantisiert senkt den VRAM-Bedarf bei leichtem Qualitaetsverlust. | q8_0 |
| V-Cache-Typ?Datentyp des V-Anteils im KV-Cache (f16/q8_0/q4_0 ...). Quantisierung braucht meist aktiviertes flash-attn. | q8_0 |
| Reasoning?Steuert die Ausgabe bzw. das Parsing von Reasoning-/Thinking-Inhalten (z.B. --reasoning-format deepseek/none). | off |
| Jinja?Nutzt die im Modell eingebettete Jinja-Chat-Vorlage fuer korrekte Rollen-, Tool- und Reasoning-Formatierung. | aktiv |
Anzeige
Modell-Vergleich
Gemma-4-26B-A4B-it auf verschiedener Hardware
Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.
GPUnach Grafikkarte
NVIDIA RTX PRO 6000 Blackwell Workstation Edition 1.589,1 tok/sNVIDIA GeForce RTX 5090 1.540,5 tok/sNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 1.479,9 tok/sNVIDIA GeForce RTX 5070 Ti 1.009,0 tok/sNVIDIA GeForce RTX 3090 Ti 926,2 tok/sNVIDIA RTX A6000 841,8 tok/sAMD Radeon PRO W7800 48GB 247,3 tok/s★ AMD Radeon 8060S Graphics 79,5 tok/s dieser Lauf
CPUnach Prozessor
AMD Ryzen 9 9950X 16-Core Processor 1.589,1 tok/sAMD Ryzen 7 5800X3D 8-Core Processor 1.540,5 tok/sAMD Ryzen Threadripper PRO 9965WX 24-Cores 1.479,9 tok/sAMD Ryzen Threadripper PRO 5975WX 32-Cores 1.009,0 tok/sAMD Ryzen 9 8945HX with Radeon Graphics 926,2 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 841,8 tok/sAMD Ryzen 5 5600X 6-Core Processor 397,2 tok/s★ AMD RYZEN AI MAX+ 395 w/ Radeon 8060S 79,5 tok/s dieser Lauf
MBnach Mainboard
ASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 1.589,1 tok/sASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 1.540,5 tok/sASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 1.479,9 tok/sASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 1.009,0 tok/sMeigao Innovation Technology (Shen Zhen) Co., Ltd DRFXL (MotherBoard Series) 926,2 tok/sASUSTeK COMPUTER INC. PRIME A520M-K 397,2 tok/s★ Bosgame AXB35-02 (BeyondMax Series) 79,5 tok/s dieser LaufMeigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) 42,2 tok/s
DRVnach Treiber
unbekannt 1.589,1 tok/sROCm 7.2.0 42,2 tok/s
Beigesteuert von
Mario Alka Administrator
@marioalka
Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.
Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.