Created bymario-alka.dePowered bynoob2claw.detricoma.de
Google

gemma-3n-E4B-it8B

Relabel 2026-09-23: Laeufe waren faelschlich als gemma-4-E4B-it erfasst (GGUF-Metadata = Gemma 3n E4B)

Dense8B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

Generation273,1 tok/s
Min 0,1Ø 159,1Max 717,6
Ueber dem Durchschnitt · 361 Systeme im Feld
Prefill4.998 tok/s
Min 39Ø 5.819Max 52.503
Unter dem Durchschnitt · 361 Systeme im Feld
Time to First Token617 ms
Min 156Ø 18.353Max 354.928
Ueber dem Durchschnitt · 361 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

3002872732592463.3173.4583.6003.741Prefill (tok/s)Generation (tok/s)AMD Radeon RX 7900 XTX - 273,1 tok/s Generation, 3.529 tok/s Prefill, TTFT 2.950 ms (9 Laufe)AMD Radeon RX 7900 XTX
AMD Radeon RX 7900 XTX 273,1 tok/s

CPUnach Prozessor

3112792472151832.4913.0773.6634.249Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 3955WX 16-Cores - 273,1 tok/s Generation, 3.847 tok/s Prefill, TTFT 2.646 ms (6 Laufe)AMD Ryzen Threadrippe...Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz - 220,8 tok/s Generation, 2.894 tok/s Prefill, TTFT 3.558 ms (3 Laufe)Intel(R) Xeon(R) CPU ...
AMD Ryzen Threadripper PRO 3955WX 16-Cores 273,1 tok/sIntel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz 220,8 tok/s

ENGnach Engine

3002872732592463.3173.4583.6003.741Prefill (tok/s)Generation (tok/s)llama.cpp - 273,1 tok/s Generation, 3.529 tok/s Prefill, TTFT 2.950 ms (9 Laufe)llama.cpp
llama.cpp 273,1 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
273,10 tok/s TG
Prefill 4.691 · TTFT 4.615 ms
10×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_M
2gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
271,11 tok/s TG
Prefill 4.998 · TTFT 4.486 ms
10×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ8_0
3gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
220,77 tok/s TG
Prefill 3.758 · TTFT 6.047 ms
10×2x AMD Radeon RX 7900 XTX i4x Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz · 504 GB RAMllama.cppgodclawQ4_K_M
4gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
189,79 tok/s TG
Prefill 3.528 · TTFT 2.818 ms
5×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_M
5gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
188,89 tok/s TG
Prefill 3.739 · TTFT 2.671 ms
5×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ8_0
6gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
116,57 tok/s TG
Prefill 2.698 · TTFT 3.741 ms
5×2x AMD Radeon RX 7900 XTX i4x Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz · 504 GB RAMllama.cppgodclawQ4_K_M
7gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
77,64 tok/s TG
Prefill 2.929 · TTFT 673 ms
1×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_M
8gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
66,77 tok/s TG
Prefill 3.195 · TTFT 617 ms
1×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ8_0
9gemma-3n-E4B-it8BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
48,95 tok/s TG
Prefill 2.226 · TTFT 887 ms
1×2x AMD Radeon RX 7900 XTX i4x Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz · 504 GB RAMllama.cppgodclawQ4_K_M
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.