Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Anmelden Registrieren
Beta
Google

gemma4:31b31B

Benchmarkprofil und veröffentlichte Ergebnisse.

Dense31B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

NVIDIA GeForce RTX 3090 TiAlle GPUs
Generation174,1 tok/s
Min 0,0Ø 245,9Max 2.491,2
Unter dem Durchschnitt · 4828 Systeme im Feld
Prefill1.206 tok/s
Min 4Ø 4.871Max 112.346
Unter dem Durchschnitt · 4812 Systeme im Feld
Time to First Token91 ms
Min 20Ø 32.261Max 535.235
Ueber dem Durchschnitt · 4825 Systeme im Feld
Harness-Quote10,0 %
Min 10,0Ø 64,9Max 100,0
Unter dem Durchschnitt · 56 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

22116611155,40,0433887331.078Prefill (tok/s)Generation (tok/s)NVIDIA GeForce RTX 3090 Ti - 174,1 tok/s Generation, 901 tok/s Prefill, TTFT 22.889 ms (6 Laufe)NVIDIA GeForce RTX 30...AMD Radeon AI PRO R9700 - 24,4 tok/s Generation, 219 tok/s Prefill, TTFT 271 ms (8 Laufe)AMD Radeon AI PRO R97...
NVIDIA GeForce RTX 3090 Ti 174,1 tok/sAMD Radeon AI PRO R9700 24,4 tok/s

CPUnach Prozessor

22116611155,40,0433887331.078Prefill (tok/s)Generation (tok/s)AMD Ryzen 5 5600X 6-Core Processor - 174,1 tok/s Generation, 901 tok/s Prefill, TTFT 22.889 ms (6 Laufe)AMD Ryzen 5 5600X 6-C...AMD Ryzen Threadripper PRO 7955WX 16-Cores - 24,4 tok/s Generation, 219 tok/s Prefill, TTFT 271 ms (8 Laufe)AMD Ryzen Threadrippe...
AMD Ryzen 5 5600X 6-Core Processor 174,1 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 24,4 tok/s

ENGnach Engine

22116611155,40,0108319529740Prefill (tok/s)Generation (tok/s)unbekannt - 174,1 tok/s Generation, 628 tok/s Prefill, TTFT 13.842 ms (10 Laufe)unbekanntvLLM - 24,4 tok/s Generation, 219 tok/s Prefill, TTFT 271 ms (4 Laufe)vLLM
unbekannt 174,1 tok/svLLM 24,4 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1gemma4:31b31BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
174,07 tok/s TG
Prefill 1.206 · TTFT 16.925 ms
10×NVIDIA GeForce RTX 3090 TiAMD Ryzen 5 5600X 6-Core Processor · 30 GB RAMopenclaw_cliDetails →
2gemma4:31b31BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
156,49 tok/s TG
Prefill 182 · TTFT 97.092 ms
10×NVIDIA GeForce RTX 3090 TiAMD Ryzen 5 5600X 6-Core Processor · 30 GB RAMopenclaw_cliDetails →
3gemma4:31b31BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
81,35 tok/s TG
Prefill 998 · TTFT 9.924 ms
5×NVIDIA GeForce RTX 3090 TiAMD Ryzen 5 5600X 6-Core Processor · 30 GB RAMopenclaw_cliDetails →
4gemma4:31b31BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
74,79 tok/s TG
Prefill 1.062 · TTFT 9.322 ms
5×NVIDIA GeForce RTX 3090 TiAMD Ryzen 5 5600X 6-Core Processor · 30 GB RAMopenclaw_cliDetails →
5gemma4:31b31BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
30,10 tok/s TG
Prefill 1.020 · TTFT 1.964 ms
1×NVIDIA GeForce RTX 3090 TiAMD Ryzen 5 5600X 6-Core Processor · 30 GB RAMopenclaw_cliDetails →
6gemma4:31b31BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
28,74 tok/s TG
Prefill 938 · TTFT 2.110 ms
1×NVIDIA GeForce RTX 3090 TiAMD Ryzen 5 5600X 6-Core Processor · 30 GB RAMopenclaw_cliDetails →
7gemma4:31b31BGoogle PerformancebenchmarkPerformancetest Small 1.0
24,36 tok/s TG
Prefill 309 · TTFT 91 ms
1×3x AMD Radeon AI PRO R9700AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawINT8Details →
8gemma4:31b31BGoogle Performancebenchmark
24,36 tok/s TG
Prefill 309 · TTFT 91 ms
1×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclawINT8Details →
9gemma4:31b31BGoogle PerformancebenchmarkPerformancetest Small 1.0
12,45 tok/s TG
Prefill 208 · TTFT 135 ms
1×3x AMD Radeon AI PRO R9700AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawINT8Details →
10gemma4:31b31BGoogle Performancebenchmark
12,45 tok/s TG
Prefill 208 · TTFT 135 ms
1×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclawINT8Details →
11gemma4:31b31BGoogle PerformancebenchmarkTimebench 2 - Token-Generation / Output-Durchsatz
11,19 tok/s TG
Prefill 162 · TTFT 716 ms
1×3x AMD Radeon AI PRO R9700AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawINT8Details →
12gemma4:31b31BGoogle Performancebenchmark
11,19 tok/s TG
Prefill 162 · TTFT 716 ms
1×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclawINT8Details →
13gemma4:31b31BGoogle PerformancebenchmarkPerformancetest Small 1.0
10,54 tok/s TG
Prefill 199 · TTFT 141 ms
1×3x AMD Radeon AI PRO R9700AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawINT8Details →
14gemma4:31b31BGoogle Performancebenchmark
10,54 tok/s TG
Prefill 199 · TTFT 141 ms
1×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclawINT8Details →
Agent- & Chat-Bewertung

Harnessbenchmark

Messwert:
#Modell / HerstellerMesswerteGPU / CPU / RAMRuntime
1gemma4:31b31BGoogle HarnessbenchmarkTool Usage Standard 1.0
298 Pkt
10,0% · 16/16 Aufg. · 9.625,0 s
AMD Radeon 8060S GraphicsAMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 123 GB RAMopenclaw_cliDetails →