LLM Leaderboard

Reale Messergebnisse aller getesteten Sprachmodelle auf echter, benannter Hardware – bewertet nach roher Geschwindigkeit (Performance in Token pro Sekunde, Prefill und Zeit bis zum ersten Token) und nach praktischer Aufgaben-Qualität in vollständigen Agenten- und Chat-Abläufen (Harness). Wähle unten einen Benchmark-Typ oder filtere nach Modell, Hersteller und Hardware, um genau zu sehen, was jeweils geprüft wird und wie die Ergebnisse zustande kommen.

⚡ Performance (tok/s)🤖 Harness-Qualität👥 Concurrency🖥️ echte Hardware

Alle ⚡ Performance 🤖 Harness

Reset

Messwert:

#	Modell / Hersteller	Messwerte	Parallel	GPU / CPU / RAM	Runtime
1	Nemotron-3-Nano-4B4BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	367,75 tok/s TG Prefill 3.397 · TTFT 29.121 ms	10×	NVIDIA GB10 (DGX Spark)NVIDIA Grace · 120 GB RAM	llama.cppgodclawQ4_K_M	Details →
2	Nemotron-3-Nano-4B4BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	354,29 tok/s TG Prefill 3.544 · TTFT 30.045 ms	10×	NVIDIA GB10 (DGX Spark)NVIDIA Grace · 120 GB RAM	llama.cppgodclawQ4_K_M	Details →
3	Nemotron-3-Nano-4B4BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	210,25 tok/s TG Prefill 3.483 · TTFT 8.798 ms	5×	NVIDIA GB10 (DGX Spark)NVIDIA Grace · 120 GB RAM	llama.cppgodclawQ4_K_M	Details →
4	Nemotron-3-Nano-4B4BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	202,30 tok/s TG Prefill 3.149 · TTFT 9.380 ms	5×	NVIDIA GB10 (DGX Spark)NVIDIA Grace · 120 GB RAM	llama.cppgodclawQ4_K_M	Details →
5	Nemotron-3-Nano-4B4BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	76,87 tok/s TG Prefill 2.223 · TTFT 1.006 ms	1×	NVIDIA GB10 (DGX Spark)NVIDIA Grace · 120 GB RAM	llama.cppgodclawQ4_K_M	Details →
6	Nemotron-3-Nano-4B4BNVIDIA PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	72,70 tok/s TG Prefill 1.798 · TTFT 1.470 ms	1×	NVIDIA GB10 (DGX Spark)NVIDIA Grace · 120 GB RAM	llama.cppgodclawQ4_K_M	Details →