Google
gemma-4-31b-it-int8
Benchmarkprofil und veroeffentlichte Ergebnisse.
Dense31B
Einordnung im Feld
Bestwerte im Vergleich
Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veroeffentlichten Systeme.
Generation24,4 tok/s
Min 2,0Ø 42,5Max 147,8
Unter dem Durchschnitt · 135 Systeme im Feld
Prefill309 tok/s
Min 22Ø 2.886Max 9.072
Unter dem Durchschnitt · 133 Systeme im Feld
Time to First Token91 ms
Min 91Ø 1.685Max 21.346
Spitzenwert im Feld · 135 Systeme im Feld
Agent- & Chat-Bewertung
Harnessbenchmark
Noch keine Harnessbenchmarks fuer dieses Modell.
Durchsatz & Latenz
Performancebenchmark
| # | Modell / Hersteller | Typ | Messwerte | GPU / CPU / RAM | Runtime | Datum | ||
|---|---|---|---|---|---|---|---|---|
| 1 | gemma-4-31b-it-int8GooglePerformancetest Small 1.0 | Performancebenchmark | 24,36 tok/s Prefill 309 · TTFT 91 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclaw INT8 | 20.07.2026 | Details → | |
| 2 | gemma-4-31b-it-int8GooglePerformancetest Small 1.0 | Performancebenchmark | 12,45 tok/s Prefill 208 · TTFT 135 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclaw INT8 | 20.07.2026 | Details → | |
| 3 | gemma-4-31b-it-int8GoogleTimebench 2 - Token-Generation / Output-Durchsatz | Performancebenchmark | 11,19 tok/s Prefill 162 · TTFT 716 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclaw INT8 | 20.07.2026 | Details → | |
| 4 | gemma-4-31b-it-int8GooglePerformancetest Small 1.0 | Performancebenchmark | 10,54 tok/s Prefill 199 · TTFT 141 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclaw INT8 | 20.07.2026 | Details → |