Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Offene Daten · reproduzierbare Tests

Welches Modell ist schnell & schlau?

Wir testen KI-Sprachmodelle auf echter Hardware: Tempo in Token pro Sekunde und Antwortzeit – plus Qualität in echten Agenten-Aufgaben. Transparent, reproduzierbar, direkt vergleichbar.

4756 Benchmarks110 Modelle2 Testarten
Live Benchmark
Wer generiert Text am schnellsten? Reale Messungen, echte Hardware.
1
gemma-4-E2B-itGeForce RTX 5090
2.491,2tok/s
2
Nemotron-3.5-Lightning-30B-A3BGeForce RTX 3090 Ti
2.263,7tok/s
3
Nemotron-3-Nano-4BRTX PRO 6000 Blackwe
2.182,7tok/s
4
gpt-oss-20bRTX PRO 6000 Blackwe
1.995,4tok/s
5
Ornith-1.0-35BRTX PRO 6000 Blackwe
1.799,4tok/s
Spitzenwert2.491tok/s
Ranking ansehen →
01

Echte Performance

TTFT, Prefill- und Generation-Token/s statt theoretischer Spitzenwerte.

02

Harness-Qualität

Punkte und Erfolgsquoten aus vollständigen Agent- und Chatabläufen.

03

Volle Transparenz

Modell, Quantisierung, Runtime und Hardware bleiben an jedem Lauf sichtbar.

Community-Favoriten

Top-Modelle nach Benchmarks

Tempo (Token/s) und Qualität (Harness) der meistgetesteten Modelle – direkt vergleichbar.

Alle Modelle →
Aktuelle Messungen

Leaderboard Snapshot

Alle Ergebnisse →
Messwert:
Größe
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1gemma-4-E2B-it5BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
2.491,20 tok/s TG
Prefill 15.814 · TTFT 4.382 ms
10×NVIDIA GeForce RTX 5090AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMllama.cppcodex_cliQ4_K_M
2gemma-4-E2B-it5BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
2.414,37 tok/s TG
Prefill 20.277 · TTFT 4.107 ms
10×NVIDIA RTX PRO 6000 Blackwell Workstation EditionAMD Ryzen 9 9950X 16-Core Processor · 92 GB RAMllama.cppgodclawQ4_K_M
3Nemotron-3.5-Lightning-30B-A3B30BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
2.263,71 tok/s TG
Prefill 9.016 · TTFT 21.818 ms
10×NVIDIA GeForce RTX 3090 TiAMD Ryzen 5 5600X 6-Core Processor · 30 GB RAMvLLMvllmNVFP4
4Nemotron-3-Nano-4B4BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
2.182,67 tok/s TG
Prefill 10.599 · TTFT 5.598 ms
10×NVIDIA RTX PRO 6000 Blackwell Workstation EditionAMD Ryzen 9 9950X 16-Core Processor · 92 GB RAMllama.cppgodclawQ4_K_M
5gemma-4-E2B-it5BGoogle PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
2.143,55 tok/s TG
Prefill 13.632 · TTFT 4.819 ms
10×3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen Threadripper PRO 9965WX 24-Cores · 125 GB RAMllama.cppgodclawQ4_K_M
Hardware-Rangliste

Benchmarks nach Grafikkarte

Generierungs-Durchsatz (Token/s) je GPU – Minimum, Durchschnitt und Maximum über alle Performance-Läufe.

Alle Läufe →
Hardware-Rangliste

Benchmarks nach CPU

Generierungs-Durchsatz (Token/s) je CPU – Minimum, Durchschnitt und Maximum über alle Performance-Läufe.

Alle Läufe →
AMD Ryzen Threadripper PRO 9965WX 24-Cores510 Läufe
557,4tok/s Ø
Min 9,4Max 2.143,6
AMD Ryzen 9 9950X 16-Core Processor247 Läufe
512,5tok/s Ø
Min 0,0Max 2.414,4
AMD Ryzen 7 5800X3D 8-Core Processor218 Läufe
429,9tok/s Ø
Min 0,1Max 2.491,2
AMD Ryzen Threadripper PRO 3945WX 12-Cores6 Läufe
397,3tok/s Ø
Min 115,5Max 1.171,8
AMD Ryzen 5 5600X 6-Core Processor57 Läufe
309,8tok/s Ø
Min 21,3Max 2.263,7
AMD Ryzen 9 8945HX with Radeon Graphics222 Läufe
259,3tok/s Ø
Min 0,0Max 1.492,8
AMD Ryzen 9 7945HX with Radeon Graphics96 Läufe
251,0tok/s Ø
Min 0,0Max 1.564,6
AMD Ryzen Threadripper PRO 3955WX 16-Cores189 Läufe
196,9tok/s Ø
Min 9,9Max 717,6
AMD Ryzen Threadripper PRO 7955WX 16-Cores1856 Läufe
165,8tok/s Ø
Min 0,0Max 1.568,0
AMD Ryzen 3 3100 4-Core Processor137 Läufe
162,9tok/s Ø
Min 21,9Max 561,4
NVIDIA Grace96 Läufe
147,6tok/s Ø
Min 11,4Max 903,3
AMD Zen2 8-Core (PlayStation 5)9 Läufe
139,4tok/s Ø
Min 10,6Max 302,6
AMD Ryzen 3 PRO 3200GE w/ Radeon Vega Graphics35 Läufe
134,1tok/s Ø
Min 35,1Max 361,8
AMD Ryzen Threadripper PRO 5975WX 32-Cores621 Läufe
132,6tok/s Ø
Min 0,7Max 1.744,0
Intel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHz214 Läufe
109,0tok/s Ø
Min 0,1Max 609,5
AMD EPYC 7203P 8-Core Processor30 Läufe
104,0tok/s Ø
Min 9,0Max 388,1
Intel(R) Core(TM) i5-7400 CPU @ 3.00GHz39 Läufe
68,6tok/s Ø
Min 6,8Max 133,7
AMD RYZEN AI MAX+ 395 w/ Radeon 8060S50 Läufe
64,1tok/s Ø
Min 7,0Max 326,9
AMD Jaguar 8-Core (PlayStation 4)4 Läufe
13,0tok/s Ø
Min 1,3Max 43,2
4 x Cortex-A78C + 4 x Cortex-A5531 Läufe
5,5tok/s Ø
Min 0,0Max 19,6
Intel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz38 Läufe
4,0tok/s Ø
Min 0,0Max 14,5